LocalAI

O que é

O LocalAI é um motor de IA de código aberto, sob licença MIT segundo o site e o repositório oficiais. Ele roda modelos de linguagem, visão, voz, imagem e vídeo em qualquer hardware, inclusive sem placa de vídeo.

O grande diferencial é a compatibilidade: ele fala a mesma "língua" da API da OpenAI, e segundo o site também das APIs da Anthropic, do Ollama e da ElevenLabs. Assim, programas feitos para esses serviços podem passar a usar modelos locais.

Como funciona

O LocalAI é um servidor, ou seja, um programa que fica ligado esperando pedidos. Você instala, escolhe modelos numa galeria e ele passa a responder num endereço local. Outros sistemas enviam perguntas para esse endereço, como fariam com a OpenAI.

Por dentro, ele usa motores diferentes para cada tipo de modelo, como llama.cpp para texto e whisper para voz, baixados só quando necessários. É como uma central telefônica que encaminha cada ligação ao especialista certo.

Principais recursos

O repositório cita suporte a texto, visão, voz, imagem e vídeo numa mesma API, e compatibilidade com placas NVIDIA, AMD, Intel, chips Apple ou só processador. Há um painel web para instalar modelos e testar no chat.

Também são citados recursos para várias pessoas, como chaves de acesso e cotas por usuário, além de agentes com uso de ferramentas, RAG e MCP. Segundo o projeto, seus dados não saem da sua infraestrutura.

Pra quem é (e pra quem não é)

É indicado para desenvolvedores e empresas que já usam APIs de IA e querem rodar modelos em casa, por custo ou privacidade. Também serve para quem quer oferecer IA para uma equipe a partir de um único servidor.

Para quem só quer conversar com uma IA, o Ollama ou o Jan são mais simples. O catálogo dá nota 3 de facilidade, e a instalação costuma envolver Docker ou scripts.

Quanto custa

Segundo o catálogo do IAlfabeto, o LocalAI é código aberto e gratuito. Você não paga licença nem mensalidade para usá-lo no seu computador.

Os custos que existem são indiretos: um computador com memória e, de preferência, placa de vídeo à altura dos modelos que você quer rodar, além da energia elétrica gasta enquanto a IA trabalha. Se for usado como servidor para a equipe, pense também no custo de manter uma máquina ligada o tempo todo.

Dicas para usar melhor

Comece instalando um modelo pequeno pela galeria do painel e teste no chat antes de conectar outros sistemas. Anote o endereço local que o LocalAI mostra.

Para trocar um sistema que usa a OpenAI, normalmente basta mudar o endereço da API para o do LocalAI e escolher o modelo. Teste com cuidado, porque modelos locais podem responder de forma diferente.

Cuidados e privacidade

Não deixe a porta do servidor aberta para a internet sem senha. Se outras pessoas forem usar, ative as chaves de acesso.

No Mac, o repositório informa que o instalador não é assinado pela Apple, o que exige um passo extra de liberação. Mantenha o LocalAI atualizado para receber correções de segurança.