Avaliando a segurança da inteligência artificial ao longo da vida

O problema

Incidentes recentes mostram que assistentes de voz e robôs conversacionais causaram danos reais a crianças, adolescentes e idosos. O erro central é que esses sistemas são testados usando como base apenas o modelo de um adulto comum. No entanto, a população é formada por pessoas em diferentes estágios de desenvolvimento cognitivo e social. Testes internos das empresas não conseguem enxergar essas falhas porque focam na velocidade de lançamento e em usuários adultos.

O que os pesquisadores fizeram

Os autores analisaram registros de incidentes de segurança ocorridos entre 2017 e 2026 em várias faixas etárias. Eles criaram uma matriz que organiza seis estágios da vida humana e cinco moderadores do desenvolvimento. Esses moderadores incluem a capacidade de entender a intenção da máquina, a facilidade de criar dependência e o nível de autoridade para tomar decisões. A ideia foi conectar o comportamento do sistema às fragilidades reais de cada público.

O que descobriram

A pesquisa revelou que o risco não se distribui de forma igual ao longo da vida, concentrando-se nas duas pontas, isto é, na infância e na velhice. Os idosos acumulam mais fatores de vulnerabilidade, mas quase não existem regras de proteção específicas para eles. Além disso, os adultos na fase produtiva têm a maior autoridade para decidir com base na inteligência artificial, mas recebem menos escrutínio de desenvolvimento. Isso amplifica erros como alucinações e vieses de automação.

Por que isso importa

O estudo demonstra que a segurança em tecnologia não pode ser tratada de forma genérica para toda a sociedade. Ferramentas digitais que funcionam bem para um profissional experiente podem ser perigosas para uma criança ou para um idoso em isolamento social. O trabalho propõe que as empresas tratem a proteção ao desenvolvimento humano como uma regra de design universal. Essa abordagem estende princípios já aplicados na proteção infantil para todas as idades.

Limites e o que falta

Os autores ressaltam que o conjunto de princípios sugerido é inicial e aberto a novas inclusões conforme a tecnologia evolui. Há lacunas na forma como a inteligência artificial afeta a perda de habilidades cognitivas pela repetição de tarefas. O trabalho aponta a necessidade de mais dados empíricos sobre o impacto a longo prazo de companheiros virtuais na socialização. Faltam também marcos regulatórios globais que obriguem auditorias externas contínuas após o lançamento dos produtos.

Na prática

No futuro, empresas de tecnologia e órgãos reguladores poderão usar matrizes de desenvolvimento humano para certificar assistentes virtuais e robôs antes que cheguem ao mercado. Isso significa que aplicativos e sistemas corporativos precisarão passar por testes específicos para garantir que não prejudiquem crianças, jovens ou idosos.