IA no seu PC · Embeddings
EmbeddingGemma 2
O EmbeddingGemma 2 é um modelo de embeddings do Google DeepMind, que transforma textos, e também imagens, vídeos e áudio, em números para buscas inteligentes em documentos. É leve, roda em qualquer PC com 4 GB de RAM e tem licença Apache 2.0. É o motor de busca de sistemas de RAG.
memória necessária
roda em qualquer PC com 4 GB de RAM
Para baixar com o Ollama: ollama run embeddinggemma-2
O que é
O EmbeddingGemma 2 é um modelo de embeddings, ou seja, um modelo que transforma conteúdo em uma lista de números que representa o significado. Conteúdos com sentido parecido ganham números parecidos. Segundo a página oficial, ele aceita texto, código, imagens, vídeo e áudio. Pense num bibliotecário que cataloga cada livro pelo assunto, não pelo título, para achar tudo o que fala da mesma coisa.
No que ele é bom
Ele serve para busca por significado, para RAG, que é a técnica de buscar trechos em documentos antes de a IA responder, e para classificar e agrupar conteúdos. Segundo a página oficial, ele entende mais de 100 idiomas. O catálogo o destaca como motor de busca do RAG em vários idiomas, leve e recente. Ele não conversa nem escreve respostas: trabalha nos bastidores.
passo a passo para começar
- Instale um programa de chat com documentos que aceite modelos de embeddings, como o RAGFlow ou outro app de RAG.
- Instale o Ollama e baixe o modelo com ollama pull embeddinggemma-2.
- Nas configurações do programa de RAG, escolha o EmbeddingGemma 2 como modelo de embeddings.
- Envie alguns documentos de teste.
- Faça perguntas e veja se os trechos encontrados são os certos.
Meu computador roda?
Pelo catálogo, ele roda em qualquer PC com 4 GB de RAM. A página oficial diz que foi pensado para celulares e notebooks e que as partes de imagem e áudio podem ser carregadas só quando necessárias. É um dos modelos mais leves da lista.
Licença e uso comercial
O modelo usa a licença Apache 2.0, segundo a página oficial e o catálogo. Ela permite uso comercial, modificação e distribuição. É uma boa base para sistemas de busca dentro de empresas.
Limites e cuidados
Sozinho, ele não responde perguntas; precisa de um programa de RAG e de um modelo de conversa para montar a resposta final. A qualidade da busca depende de como os documentos foram organizados. Se trocar de modelo de embeddings, será preciso processar todos os documentos de novo.
na sua empresa
- Montar uma busca interna em manuais e fichas técnicas, em que o vendedor pergunta com as próprias palavras e encontra o documento certo.
- Organizar e agrupar comentários de clientes por assunto, mesmo que usem palavras diferentes.
- Servir de base para um assistente de documentos da empresa, junto com um modelo de conversa.
dúvidas comuns
Posso conversar com ele?
Não. Ele faz a busca por significado; a resposta vem de outro modelo.
Roda em computador fraco?
Sim. Pelo catálogo, roda com 4 GB de RAM.
Posso usar comercialmente?
Sim. A licença Apache 2.0 permite.
termos explicados
- embeddings
- Listas de números que representam o significado de um conteúdo, usadas para comparar e buscar.
- geração aumentada por recuperação (RAG)
- Técnica em que a IA busca trechos em documentos antes de responder.
- multimodal
- Que entende mais de um tipo de conteúdo, como texto, imagem e áudio.
Quer ver a página oficial do modelo?
Texto escrito com apoio de IA a partir da página oficial e do catálogo do IAlfabeto. Versões e requisitos mudam rápido: confira a página oficial.