IA no seu PC · Embeddings
BGE-M3
O BGE-M3 é um modelo de embeddings da BAAI, usado para buscar informações em documentos pelo significado do texto. É multilíngue, bom em português e em textos longos, e roda até em PC com 4 GB de RAM.
memória necessária
roda em PC com 4 GB de RAM
Para baixar com o Ollama: ollama run bge-m3
O que é
O BGE-M3 é um modelo de IA aberto criado pela BAAI, instituto de pesquisa em inteligência artificial de Pequim. Ele não conversa: ele transforma textos em embeddings, que são sequências de números que representam o significado. Com isso, o computador consegue encontrar textos parecidos mesmo que usem palavras diferentes. Segundo o catálogo, tem 567 milhões de parâmetros.
No que ele é bom
Segundo a página oficial, o BGE-M3 suporta mais de 100 idiomas e lida com textos de frases curtas até documentos longos, de até 8.192 tokens. Ele faz três tipos de busca ao mesmo tempo, o que melhora a precisão. É a peça usada por trás de sistemas de "conversar com documentos", a chamada técnica RAG. Imagine um bibliotecário que acha o livro certo pelo assunto, não só pelo título.
passo a passo para começar
- Instale o Ollama (ollama.com).
- Baixe o modelo bge-m3 pela biblioteca do Ollama.
- Instale um app de conversa com documentos, como o AnythingLLM.
- Nas configurações do app, escolha o bge-m3 como modelo de embeddings.
- Envie seus documentos e faça perguntas para testar a busca.
Meu computador roda?
Segundo o catálogo, roda num PC com 4 GB de RAM. É um modelo leve, que funciona bem até sem placa de vídeo. Indexar muitos documentos pode levar algum tempo, mas a busca depois é rápida.
Licença e uso comercial
Segundo a página oficial e o catálogo, a licença é MIT, que permite uso comercial. Empresas podem usá-lo em sistemas internos e produtos. Confira os termos na página oficial.
Limites e cuidados
Sozinho, o BGE-M3 não responde perguntas: ele só encontra os trechos mais parecidos. Para ter respostas em texto, é preciso combiná-lo com um modelo de chat. A qualidade da busca depende de documentos bem organizados. Confira sempre o trecho original encontrado.
na sua empresa
- Montar uma busca inteligente em manuais, catálogos e contratos da empresa, que entende o que o funcionário quer dizer.
- Servir de base para um assistente interno que responde dúvidas com base nos documentos da empresa, junto com um modelo de chat.
dúvidas comuns
O BGE-M3 conversa como o ChatGPT?
Não. Ele só transforma textos em números para busca; precisa de um modelo de chat para responder.
Funciona em português?
Sim, segundo o catálogo é bom em português.
Preciso de placa de vídeo?
Não. Segundo o catálogo, roda num PC com 4 GB de RAM.
termos explicados
- embeddings
- Números que representam o significado de um texto, usados para comparar e buscar.
- RAG (retrieval augmented generation)
- Técnica em que a IA busca trechos de documentos antes de responder.
- indexar
- Processar documentos para que fiquem prontos para busca rápida.
Quer ver a página oficial do modelo?
Texto escrito com apoio de IA a partir da página oficial e do catálogo do IAlfabeto. Versões e requisitos mudam rápido: confira a página oficial.