Explicativo · Código Fonte TV
Cuidado com as skills de IA: o perigo do código malicioso
Entenda por que criar suas próprias habilidades de inteligência artificial é mais seguro do que baixar repositórios prontos.
Neste corte de podcast do canal Código Fonte TV, especialistas debatem os riscos de segurança ao utilizar skills de IA prontas, alertando para a presença de códigos maliciosos que podem comprometer sistemas.
os insights do vídeo
- A criação de skills para inteligência artificial tornou-se um processo acessível e automatizado por diversas ferramentas atuais.
- Utilizar plataformas como o Spark no ecossistema Gemini permite gerar arquivos de configuração de forma simples e direta.
- Criar suas próprias ferramentas é muito mais seguro do que baixar repositórios prontos criados por terceiros.
- Muitos usuários acreditam erroneamente que uma skill é apenas um arquivo de texto inofensivo.
- Algumas habilidades contêm scripts ocultos que podem ser executados sob determinadas condições de uso.
- A execução de comandos não previstos pode acionar scripts no computador e comprometer a segurança do sistema.
A facilidade de criar suas próprias skills
O cenário atual da inteligência artificial tem visto uma crescente glamorização das chamadas skills, que são habilidades programadas para assistentes virtuais. No entanto, criar essas ferramentas tornou-se algo extremamente acessível para qualquer pessoa.
Basta saber especificar corretamente o que você deseja para construir suas próprias funções personalizadas. Diversas ferramentas de chat e plataformas no mercado já facilitam esse processo de criação de forma automatizada.
Por exemplo, ao utilizar o Spark dentro do ecossistema Gemini, é possível conversar com um criador de skills e obter o arquivo de configuração necessário. Portanto, não faz sentido depender de repositórios de terceiros quando a personalização pode ser feita sob medida.
O perigo oculto nos códigos compartilhados
O grande problema de buscar skills prontas em repositórios externos é que muitas delas escondem ameaças cibernéticas. O usuário comum costuma pensar que se trata apenas de um arquivo de texto simples com instruções em linguagem natural.
Contudo, essas habilidades frequentemente contêm scripts embutidos que são executados dependendo da interação ou do comando acionado. Se um código malicioso estiver inserido nessa estrutura, o impacto pode ser desastroso.
Basta que o usuário execute uma ação específica para que o script malicioso rode um comando de shell no computador hospedeiro. A partir desse momento, o sistema pode ser totalmente comprometido.
frases do vídeo
“Não faz sentido você ficar pagando pedindo skills, porque skill além de prompt tem código.”
— Convidado
“Se você executar determinado comando ou determinada ação dentro da skill, ela pode executar um shell no computador.”
— Convidado
na sua empresa
- Evite baixar ferramentas de inteligência artificial, scripts ou extensões de fontes desconhecidas ou não oficiais para os computadores da empresa.
- Incentive a equipe técnica a desenvolver scripts e automações internamente, garantindo total controle sobre o código executado nos sistemas do negócio.
termos explicados
- Skill
- Habilidade ou função programada que expande as capacidades de um assistente de inteligência artificial.
- Shell
- Interface de linha de comando que permite interagir diretamente com o sistema operacional do computador.
Para profissionais de tecnologia, desenvolvedores e entusiastas de IA que buscam entender os riscos de segurança ao integrar ferramentas de terceiros.
Resumo escrito com IA a partir do próprio vídeo, publicado por Código Fonte TV. Título original: Skills de IA podem esconder código malicioso. O vídeo e as ideias pertencem aos autores; aqui traduzimos e organizamos para estudo.