Como descobrir se imagens foram usadas para treinar inteligência artificial

O problema

Modelos de difusão (sistemas de inteligência artificial que criam imagens a partir de texto) aprendem com bases de dados gigantescas que podem conter fotos privadas ou protegidas por direitos autorais. Para saber se uma imagem específica foi usada nesse aprendizado, os especialistas usam ataques de inferência de membro (técnicas para testar se um dado estava no conjunto de treinamento). A forma padrão de fazer isso é medir o erro de reconstrução da imagem. Se o sistema errar pouco, assume-se que ele já conhecia aquela figura. O problema é que algumas imagens são naturalmente simples de desenhar, fazendo com que até figuras nunca vistas antes tenham um erro menor do que imagens complexas que estavam no treinamento.

O que os pesquisadores fizeram

Para resolver essa confusão, os autores do estudo propuseram separar o aprendizado da dificuldade natural da imagem usando dois eixos de tempo: o tempo de treinamento e o tempo de difusão (o processo em que o sistema remove ruído para formar uma imagem). No primeiro caso, eles comparam o modelo atual com uma versão mais antiga dele mesma para isolar o que foi recém-memorizado. Como versões antigas nem sempre estão disponíveis, eles criaram também um método de autocalibração temporal que usa apenas um modelo. A ideia principal é que a dificuldade de uma imagem permanece estável em diferentes níveis de ruído, enquanto a memorização acontece em momentos específicos. Comparando o erro de um momento-alvo com os momentos vizinhos, o sistema usa a própria trajetória como base para anular a dificuldade da imagem.

O que descobriram

Os testes mostraram que os novos métodos superam amplamente as técnicas anteriores conhecidas no meio acadêmico. No conjunto de dados chamado CIFAR-10, a técnica de autocalibração dobrou a performance dos métodos existentes. Além disso, ao contrário de abordagens anteriores que funcionam apenas em tipos específicos de modelos, os novos métodos funcionaram bem em diferentes arquiteturas de previsão de ruído e movimento. A pesquisa também demonstrou que a janela onde o sinal de memorização vaza de dentro do modelo está diretamente ligada ao objetivo principal com que ele foi treinado.

Por que isso importa

Sistemas de inteligência artificial generativa são amplamente criticados por absorverem conteúdo sem permissão dos criadores originais. Ferramentas confiáveis de auditoria ajudam artistas e empresas a verificarem se suas obras proprietárias foram usadas indevidamente no treinamento de uma tecnologia. Isso traz mais transparência e ajuda a lidar com questões regulatórias e de direitos autorais no setor de tecnologia. Saber o que está dentro da memória de uma inteligência artificial é o primeiro passo para garantir maior controle sobre o uso de dados sensíveis.

Limites e o que falta

Embora os resultados superem o estado da arte atual, a eficácia dos métodos ainda depende de quantas consultas o sistema permite realizar e de quais informações estão acessíveis sobre o modelo. O uso de versões anteriores do modelo, por exemplo, exige um histórico que nem sempre é mantido pelos desenvolvedores das ferramentas comerciais. Além disso, o comportamento exato pode variar dependendo do tipo de dado e da escala do sistema analisado. Mais testes em ambientes corporativos reais ainda são necessários para validar a robustez completa dessas soluções em larga escala.

Na prática

No futuro, essa tecnologia pode ser adotada por estúdios de design, fotógrafos e empresas de software para auditar ferramentas comerciais de geração de imagens e verificar se seus arquivos protegidos foram utilizados sem autorização. Embora não exista uma solução definitiva implementada comercialmente para o público geral, o avanço ajuda a criar padrões mais rigorosos de auditoria para o mercado de inteligência artificial.