O Cavalo de Troia moderno que você precisa evitar ao usar produtos de IA
Criado com Midjourney
A IA traz benefícios crescentes… e riscos. Ferramentas de IA evoluíram de chatbots conversacionais para assistentes agentes capazes de agir em seu nome. Para profissionais ocupados, os ganhos de produtividade são difíceis de ignorar. Mas há uma pegadinha: sempre que você delega uma tarefa à IA, corre o risco de sofrer uma prompt injection.
O que é prompt injection? São instruções maliciosas escondidas dentro de conteúdos cotidianos, como páginas da web, documentos e até imagens. Quando a IA escaneia esse conteúdo, ela lê esses comandos ocultos e os executa em vez de seguir sua solicitação original. Enquanto você pode pedir à IA que resuma um documento, ela pode ser redirecionada para uma nova tarefa — como enviar suas informações bancárias para um hacker.
Como se proteger. Sistemas modernos de IA possuem defesas embutidas, mas não são infalíveis. Especialistas recomendam limitar o acesso da IA apenas ao que for necessário. Se a IA precisar escanear um banco de dados, certifique-se de que ela possa acessar apenas a quantidade mínima necessária. Pessoalmente, uso navegadores agentes como Comet e Atlas, mas mantenho tarefas sensíveis, como operações bancárias, fora desses navegadores.
Monitore o que entra e sai. Também é uma boa prática fornecer à IA apenas conteúdo de fontes confiáveis e reputadas. Em caso de dúvida, revise os documentos você mesmo antes de entregá-los à IA. Um arquivo pode parecer inofensivo, mas pode esconder uma ameaça secreta.