NORmal: Flash como memória principal em celulares para IA

O problema

Os celulares atuais rodam equipes de inteligência artificial formadas por vários modelos que conversam entre si para realizar tarefas complexas. Um modelo principal e seus assistentes exigem um volume enorme de dados que simplesmente não cabe na memória principal (DRAM) do aparelho. As soluções tradicionais de armazenamento, como o chip de arquivos flash, são lentas demais para alimentar o processador com a velocidade necessária. Por outro lado, tecnologias experimentais de alta velocidade exigem mudanças profundas no projeto do celular e gastam energia demais, esgotando a bateria rapidamente.

O que os pesquisadores fizeram

Os pesquisadores desenvolveram uma nova arquitetura chamada NORmal, criada especificamente para uma tecnologia de memória chamada flash ferroelétrico tridimensional (3D FeNOR). Eles fabricaram e testaram em laboratório matrizes desse material que combinam duas funções em um só lugar. Uma parte é densa para guardar os pesos do modelo de inteligência artificial, e outra parte é rápida e durável para registrar o histórico mutável da conversa em tempo real. Essa memória foi projetada para conversar diretamente com o controlador de memória padrão do celular, sem precisar de cabos extras ou modificações no processador.

O que descobriram

Os testes mostraram que a nova memória responde rápido o suficiente para se passar por uma memória tradicional do tipo DRAM, atendendo aos limites rígidos de tempo do sistema. Enquanto a memória flash comum é lenta e gasta muita energia para pequenas alterações, o novo componente realiza gravações locais de forma ágil e gasta muito menos energia por dado processado. Nas simulações de uso real, a nova arquitetura foi muito mais rápida que o sistema de arquivos convencional e atingiu quase o mesmo desempenho de uma memória principal infinita.

Por que isso importa

Com essa tecnologia, os celulares poderão executar assistentes virtuais avançados localmente, sem depender de servidores na nuvem. Isso garante mais privacidade para o usuário, pois dados sensíveis, conversas e imagens processadas não precisam sair do aparelho. Além disso, elimina o gargalo que impedia modelos gigantescos de inteligência artificial de rodarem em dispositivos móveis. A inteligência passa a funcionar de forma fluida e integrada diretamente ao hardware que já existe no mercado.

Limites e o que falta

Apesar do avanço impressionante em laboratório, a tecnologia ainda precisa passar pelos processos de fabricação em massa para uso comercial em larga escala. Os pesquisadores avaliaram o desempenho por meio de simulações detalhadas e testes em arrays específicos, mas a integração final em um smartphone comercial exige testes contínuos de durabilidade e custo. O projeto demonstra a viabilidade técnica, mas a chegada aos aparelhos nas prateleiras depende do interesse da indústria de semicondutores em adotar a nova linha de produção.

Na prática

A tecnologia tem potencial para chegar aos smartphones e dispositivos móveis nos próximos anos, à medida que fabricantes de chips adotarem a fabricação de memórias flash ferroelétricas. Para o usuário final, isso significará celulares mais inteligentes, capazes de executar tarefas complexas e privadas diretamente no aparelho, sem travar e gastando menos bateria.