LibreChat

O que é

O LibreChat é uma tela de conversa com IA, parecida com o ChatGPT, que a própria empresa instala e controla. Ele permite usar vários modelos ao mesmo tempo: modelos locais, rodando no Ollama, e modelos on-line de diferentes empresas. Cada funcionário tem sua conta e o administrador decide o que cada um pode usar.

Pense numa central telefônica que liga a equipe a vários fornecedores de IA, com um só número e uma só lista de ramais.

Como funciona

A instalação mais comum usa o Docker, um programa que roda outros programas em "caixas" isoladas. Você baixa o LibreChat do GitHub, copia o arquivo de configuração de exemplo e indica quais modelos quer usar, como o Ollama. Depois, sobe o sistema com o comando indicado na documentação e acessa pelo navegador.

O peso real, segundo o catálogo, está no modelo usado. O LibreChat em si é a tela e a organização; quem pensa é o modelo conectado a ele.

Principais recursos

O LibreChat permite trocar de modelo no meio do trabalho e reunir serviços diferentes numa só interface. Ele tem controle de usuários e funções, envio de arquivos e criação de agentes, que são assistentes capazes de usar ferramentas para cumprir tarefas. As versões recentes, segundo o projeto, trazem recursos de gestão de agentes, controle de aprovação para ações e acompanhamento de custos.

Como o projeto muda rápido, confira a documentação oficial em librechat.ai para ver o que está disponível na versão atual.

Pra quem é (e pra quem não é)

O LibreChat é para empresas que querem oferecer IA à equipe com controle centralizado e que têm alguém de TI para instalar e manter. O catálogo do IAlfabeto dá nota 4 de facilidade, numa escala em que 5 é o mais difícil. É uma boa opção para quem quer misturar modelos locais e on-line.

Não é indicado para quem só quer conversar com uma IA no próprio computador. Nesse caso, um aplicativo pronto como o Jan é bem mais simples.

Quanto custa

Segundo o catálogo do IAlfabeto, o LibreChat é gratuito e de código aberto: você pode baixar e usar sem pagar licença.

O custo real fica por conta do equipamento. Rodar IA no próprio computador exige memória e, muitas vezes, uma boa placa de vídeo, além de aumentar o consumo de energia. Também é preciso um servidor para hospedar o sistema, e os modelos on-line conectados são cobrados à parte por cada empresa.

Dicas para usar melhor

Teste primeiro num computador separado antes de liberar para a equipe. Comece com poucos modelos, por exemplo um local para dados sigilosos e um on-line para tarefas gerais. Documente as configurações para que outra pessoa consiga manter o sistema.

Crie regras simples para a equipe sobre quando usar cada modelo. E mantenha o LibreChat atualizado, porque correções de segurança saem com frequência.

Cuidados e privacidade

Exige alguma familiaridade com servidor e arquivos de configuração; peça ajuda a alguém de TI se for usar na empresa. Chaves de API ficam guardadas na configuração e precisam ser protegidas, porque dão acesso a serviços pagos. Não deixe o painel aberto na internet sem proteção.

Mensagens enviadas a modelos on-line saem da empresa. Para dados sigilosos, oriente a equipe a usar apenas o modelo local.