El caballo de Troya moderno del que debes cuidarte al usar productos de IA
Creado con Midjourney
La IA tiene beneficios crecientes… y riesgos. Las herramientas de IA han evolucionado desde chatbots conversacionales hasta asistentes agentes que ahora pueden actuar en tu nombre. Para profesionales ocupados, las ganancias de productividad son difíciles de ignorar. Pero hay un problema: cada vez que delegas una tarea a la IA, corres el riesgo de una inyección de prompts.
¿Qué es una inyección de prompts? Son instrucciones maliciosas ocultas dentro de contenido cotidiano como páginas web, documentos y incluso imágenes. Cuando la IA escanea este contenido, lee estos comandos ocultos y los sigue en lugar de tu solicitud original. Mientras tú podrías pedirle a la IA que resuma un documento, podría ser redirigida a una nueva tarea — como enviar tu información bancaria a un hacker.
Cómo protegerte. Los sistemas modernos de IA tienen defensas integradas, pero no son infalibles. Los expertos recomiendan limitar el acceso de la IA únicamente a lo necesario. Si la IA necesita escanear una base de datos, asegúrate de que solo pueda acceder a la cantidad mínima necesaria. En lo personal, uso navegadores agentes como Comet y Atlas, pero mantengo tareas sensibles como la banca fuera de estos navegadores.
Monitorea lo que entra y sale. También es buena práctica alimentar a la IA solo con contenido de fuentes confiables y reputadas. Cuando tengas dudas, revisa los documentos tú mismo antes de entregárselos a la IA. Un archivo puede parecer inofensivo, pero podría estar ocultando una amenaza secreta.