Explicativo · Código Fonte TV
Cuidado com o código malicioso em skills de inteligência artificial
Especialistas alertam sobre os riscos de segurança ao baixar habilidades prontas para assistentes de IA, que podem esconder códigos maliciosos.
Neste episódio em formato de podcast do canal Código Fonte TV, especialistas discutem a facilidade de criação de skills e os perigos ocultos por trás de repositórios de terceiros, alertando sobre a importância de criar suas próprias ferramentas.
os insights do vídeo
- Criar sua própria skill é simples e elimina a necessidade de depender de repositórios externos desconhecidos.
- Ferramentas de conversação e criadores integrados ajudam a estruturar novas habilidades rapidamente.
- O uso de arquivos de texto prontos pode mascarar scripts perigosos para o sistema.
- Determinadas ações ou comandos dentro de uma skill podem acionar scripts ocultos no computador.
- A segurança digital exige cautela ao integrar códigos e automações de terceiros no fluxo de trabalho.
A facilidade de criar suas próprias skills
Criar uma habilidade, conhecida como skill, tornou-se um processo acessível para quem sabe especificar o que deseja. Em vez de recorrer a repositórios externos com pacotes prontos de código, os usuários podem desenvolver suas próprias soluções personalizadas.
Diversas ferramentas de conversação e criadores integrados a plataformas de inteligência artificial permitem gerar a estrutura básica de uma skill com facilidade, bastando uma boa descrição dos requisitos.
Dessa forma, confiar em arquivos de terceiros perde o sentido quando a própria tecnologia auxilia na construção de ferramentas sob medida, garantindo maior controle e segurança ao operador.
Os riscos escondidos em arquivos de texto
Muitos desenvolvedores recorrem a repositórios prontos acreditando que estão lidando apenas com arquivos de texto simples ou instruções em formato de prompt. No entanto, o perigo vai muito além de meras instruções textuais.
Algumas skills incorporam scripts e rotinas de execução automática que são acionados sob determinadas condições. Se um comando específico for disparado, o sistema pode executar instruções indesejadas diretamente no computador do usuário.
Essa vulnerabilidade transforma arquivos aparentemente inofensivos em portas de entrada para códigos maliciosos, comprometendo a segurança de todo o ambiente de trabalho e expondo dados sensíveis.
frases do vídeo
“Não faz sentido você ficar pedindo skills, porque skill além de prompt tem código.”
— Apresentador
“Se você executar determinado comando ou determinada ação dentro da skill, ela pode executar um shell, às vezes, no computador.”
— Convidado
na sua empresa
- Desenvolver automações e rotinas de atendimento internamente, evitando o uso de scripts ou códigos prontos de fontes desconhecidas.
- Orientar a equipe técnica sobre os riscos de segurança ao integrar ferramentas de inteligência artificial sem uma auditoria prévia do código.
termos explicados
- skill
- Habilidade ou instrução programada para ensinar uma inteligência artificial a realizar tarefas específicas.
- script
- Conjunto de comandos escritos para serem executados automaticamente por um sistema ou computador.
- shell
- Interface de comando que permite interagir diretamente com o sistema operacional de um computador.
Para programadores, empreendedores e entusiastas de tecnologia que utilizam inteligência artificial e querem entender os riscos de segurança em códigos de terceiros.
Resumo escrito com IA a partir do próprio vídeo, publicado por Código Fonte TV. Título original: Skills de IA podem esconder código malicioso. O vídeo e as ideias pertencem aos autores; aqui traduzimos e organizamos para estudo.