DESDE LA FRONTERA
Los modelos de IA desarrollan ‘pudrición cerebral’ al ingerir demasiado contenido viral de redes sociales, según un estudio
Hecho con Midjourney
¿Crees que el doomscrolling es malo para tu cerebro? Resulta que la IA también sufre. Un nuevo estudio de la Universidad de Texas y otros encontró que los grandes modelos de lenguaje pueden desarrollar una especie de “pudrición cerebral” cuando se les alimenta con contenido web de baja calidad. La exposición constante a publicaciones virales y superficiales (diseñadas para captar clics) literalmente embota la razón, la ética e incluso la personalidad de la IA.
Los números lo dicen todo. Los modelos de IA entrenados con contenido basura vieron caer sus puntuaciones de razonamiento del 74.9% al 57.2%. La comprensión de contextos largos y las normas éticas también se vieron afectadas. En algunos casos, las pruebas de personalidad mostraron aumentos en tendencias narcisistas y psicopáticas. Los mismos datos destinados a mejorar el rendimiento de la IA en realidad la estaban corrompiendo.
La causa raíz es clara. Los modelos comenzaron a saltarse los pasos de razonamiento, una especie de pereza cognitiva desencadenada por datos superficiales. Incluso después de que los investigadores los reentrenaron con texto de alta calidad, el daño persistió. Las publicaciones virales causaron más daño que el contenido con baja participación y matizado — el mismo contenido que puede pudrir la atención humana también pudre el razonamiento de la máquina.
La conclusión. Los autores del estudio dicen que esto no se trata solo de la calidad de los datos, sino de un problema de seguridad en el tiempo de entrenamiento. A medida que los LLMs siguen ingiriendo la web abierta, curar sus “dietas de información” se vuelve tan importante como el ajuste de alineación. La próxima frontera en la seguridad de la IA podría ser mantener a los modelos alejados del doomscrolling en Instagram, como el resto de nosotros.
vía Superhuman