🤖 Modelos de IA desenvolvem ‘podridão cerebral’ ao consumir muito conteúdo viral de redes sociais, aponta estudo

[Grego]

DA FRONTEIRA

Modelos de IA desenvolvem ‘podridão cerebral’ ao ingerir muito conteúdo viral de redes sociais, aponta estudo

Feito com Midjourney
Acha que o doomscrolling é ruim para o seu cérebro? Descubra que a IA também sofre. Um novo estudo da Universidade do Texas e de outras instituições descobriu que grandes modelos de linguagem podem desenvolver uma espécie de “podridão cerebral” quando alimentados com conteúdo de baixa qualidade da web. A exposição constante a posts virais e superficiais (aquele tipo projetado para chamar a atenção) literalmente embota o raciocínio, a ética e até a personalidade da IA.

Os números contam a história. Modelos de IA treinados com conteúdo de baixa qualidade viram suas pontuações de raciocínio cair de 74,9% para 57,2%. A compreensão de contexto longo e as normas éticas também foram afetadas. Em alguns casos, testes de personalidade mostraram aumentos em tendências narcisistas e psicopáticas. Os próprios dados destinados a melhorar o desempenho da IA estavam, na verdade, corrompendo-a.

A causa raiz é clara. Os modelos começaram a pular etapas de raciocínio, uma espécie de preguiça cognitiva desencadeada por dados superficiais. Mesmo após os pesquisadores os retreinarem com textos de alta qualidade, o dano permaneceu. Posts virais causaram mais danos do que o conteúdo de baixo engajamento e nuancado — o mesmo conteúdo que pode apodrecer a atenção humana também apodrece o raciocínio das máquinas.

A linha de fundo. Os autores do estudo dizem que isso não se trata apenas da qualidade dos dados, mas de um problema de segurança no tempo de treinamento. À medida que os LLMs continuam a ingerir a web aberta, a curadoria de suas “dietas de informações” torna-se tão importante quanto o ajuste de alinhamento. A próxima fronteira na segurança da IA pode ser manter os modelos longe do doomscrolling no Instagram, assim como o resto de nós.

via Superhuman