Evidência de processo agêntico: como rastrear ações de IAs

O problema

As ferramentas de inteligência artificial criam códigos, escolhem partes de programas e alteram sistemas sozinhas. Diferente dos engenheiros humanos, essas inteligências são efêmeras, ou seja, suas decisões e raciocínios somem quando a sessão termina. Os registros tradicionais de projetos mostram o que mudou no sistema, mas não explicam qual inteligência artificial fez a alteração ou quais ferramentas foram usadas. Isso cria riscos de segurança na cadeia de suprimentos e dificulta a aplicação de regras de conformidade.

O que os pesquisadores fizeram

Os autores propuseram a Evidência de Processo Agêntico, conhecida como APE. Trata-se de um registro em formato legível por máquinas, assinado digitalmente e à prova de adulterações. O sistema conecta cada sessão de trabalho da inteligência artificial ao resultado final gerado, como um trecho de código modificado. A proposta reutiliza padrões existentes de segurança e atestação para registrar o histórico de processos de forma organizada.

O que descobriram

O trabalho define que o registro deve conter informações detalhadas sobre a ferramenta de inteligência artificial utilizada, os comandos executados e o contexto fornecido. Como o registro é assinado digitalmente, qualquer alteração posterior invalida o documento. Isso permite que empresas verifiquem se a inteligência artificial seguiu as diretrizes estabelecidas e qual usuário humano foi o responsável por supervisionar o processo.

Por que isso importa

Com uma proporção cada vez maior de códigos sendo gerados por inteligência artificial em grandes empresas, as normas tradicionais baseadas apenas em humanos deixam de ser suficientes. A nova abordagem permite que equipes de tecnologia auditem o trabalho automatizado e apliquem regras de controle de forma automática. Assim, torna-se possível cobrar responsabilidade sobre processos que antes desapareciam ao fim de cada sessão.

Limites e o que falta

Os autores apresentam o conceito e a arquitetura técnica necessária, mas o trabalho não relata testes operacionais em larga escala do sistema em funcionamento. A assinatura digital garante que o arquivo é autêntico, mas não prova que todas as sessões de trabalho foram relatadas ou que as informações iniciais inseridas no registro são verdadeiras. A eficácia do modelo depende da confiabilidade dos pontos de coleta dos dados.

Na prática

No futuro, ferramentas baseadas neste estudo poderão ser integradas a plataformas de desenvolvimento de software para que empresas registrem automaticamente o histórico de alterações feitas por inteligências artificiais. Isso ajudará equipes de governança a auditar códigos e garantir conformidade sem depender apenas da memória humana.