AnythingLLM

O que é

O AnythingLLM é um programa para conversar com seus documentos usando IA. Você coloca arquivos dentro de um espaço de trabalho (workspace) e faz perguntas em linguagem comum, como "qual o prazo de entrega no contrato X?". A IA busca os trechos relevantes e responde, citando de onde tirou a informação.

O projeto se apresenta como um aplicativo completo para ter um ChatGPT privado. Há versão para computador (Windows, Mac e Linux) e, segundo o projeto, também uma versão para Android.

Como funciona

Por trás, ele usa uma técnica chamada RAG (retrieval augmented generation). Funciona como um bibliotecário: quando você pergunta, ele primeiro procura nas prateleiras os trechos certos dos seus documentos e só depois a IA escreve a resposta com base neles. Para isso, os textos são guardados num banco de vetores, um tipo de índice que encontra trechos pelo significado, não só pela palavra exata.

Você escolhe o modelo de IA: pode usar o motor interno do próprio AnythingLLM ou conectar ao Ollama. Também é possível ligar serviços on-line, se quiser.

Principais recursos

Segundo o projeto, o AnythingLLM já vem com motor de IA local, banco de vetores e leitura de documentos, sem configuração extra. Ele tem agentes de IA, que executam tarefas, e suporte a vários usuários com controle de acesso. Também permite criar vários workspaces separados, um para cada assunto.

O motor local, segundo o projeto, roda no processador ou na placa de vídeo, incluindo placas NVIDIA, AMD e Intel. Confira a lista atualizada de recursos em anythingllm.com.

Pra quem é (e pra quem não é)

É indicado para quem tem muitos documentos e perde tempo procurando informações neles, como contratos, manuais e tabelas. O catálogo do IAlfabeto dá a ele a nota de facilidade mais alta, 1 numa escala em que 5 é o mais difícil. Também é bom para quem precisa de privacidade, porque tudo pode rodar local.

Não substitui a leitura atenta de documentos críticos, como contratos antes de assinar. E, segundo o catálogo, pede 8 GB de RAM, com 16 GB recomendados para muitos documentos.

Quanto custa

Segundo o catálogo do IAlfabeto, o AnythingLLM é gratuito e de código aberto: você pode baixar e usar sem pagar licença.

O custo real fica por conta do equipamento. Rodar IA no próprio computador exige memória e, muitas vezes, uma boa placa de vídeo, além de aumentar o consumo de energia. O projeto também menciona uma versão hospedada; se tiver interesse, confira as condições no site oficial.

Dicas para usar melhor

Crie um workspace por assunto, como "contratos", "fornecedores" e "manuais", para a IA não misturar informações. Prefira documentos com texto selecionável; PDFs escaneados como imagem podem ser lidos com mais erros. Faça perguntas específicas, citando o nome do documento quando possível.

Sempre clique na fonte citada para conferir o trecho original. Se a resposta estiver fraca, teste outro modelo ou divida documentos muito grandes.

Cuidados e privacidade

A IA pode errar ou misturar trechos; confira sempre a resposta no documento original citado. Com modelo local, os documentos ficam no seu computador. Se conectar um serviço on-line, os trechos enviados à IA saem da sua máquina.

Cuidado ao colocar documentos com dados pessoais de clientes ou funcionários. Guarde apenas o que for necessário e controle quem tem acesso ao workspace.