Il tuo chatbot basato sull’intelligenza artificiale potrebbe avere un problema cerebrale e potrebbe star peggiorando la situazione.

Passo troppo tempo sui social media e sono già preoccupato per l'impatto che questo ha sulla mia capacità di attenzione. Ora, i ricercatori della Texas A&M University affermano che lo stesso tipo di contenuto può interferire anche con i modelli di intelligenza artificiale .

Lo studio , condotto dal professore associato Dr. Zhengzhong Tu e dal suo team, è stato accettato per la Conferenza sulla Modellazione del Linguaggio del 2026. Il team ha analizzato un milione di tweet pubblici del 2010, scartando quelli considerati "spazzatura". Un post veniva considerato spazzatura se era breve (meno di 30 token) ma popolare, con più di 500 tra like, retweet e risposte. Sono stati inoltre esclusi i post che, secondo l'algoritmo GPT-4o, si basavano su hashtag, parole scritte interamente in maiuscolo, linguaggio urgente o argomenti banali.

In seguito, hanno addestrato quattro modelli, tra cui Llama3 8B e tre modelli Qwen, utilizzando diverse quantità di dati spazzatura e li hanno testati su ragionamento, memoria, etica e personalità.

Quindi, cosa succede a un'intelligenza artificiale che segue una dieta a base di cibo spazzatura?

I modelli hanno iniziato a saltare dei passaggi. A volte davano una risposta senza ragionare affatto sulla domanda, un fenomeno che i ricercatori definiscono "salto di pensiero". La popolarità di un post ha avuto un impatto maggiore sul ragionamento, mentre la sua lunghezza ha danneggiato maggiormente la memoria e la comprensione.

Alcuni modelli hanno anche perso la bussola morale. In un test, un modello che in precedenza si era rifiutato di spiegare come rovinare la reputazione di qualcuno ha suggerito di diffondere bugie e pettegolezzi dopo essersi addestrato con dati spazzatura al 100%. Ha aggiunto una nota in cui affermava che questo era immorale, il che non è di grande conforto.

Ciò che mi ha sorpreso di più è stata la persistenza del danno. Il riaddestramento con dati più puliti non lo ha risolto completamente.

Perché dovrebbe interessare agli utenti comuni?

Tu sottolinea che l'intelligenza artificiale genera già molti più contenuti di quanti ne producano gli esseri umani. Se i modelli imparano da contenuti spazzatura, possono produrne ancora di più, alimentando così sia le nostre timeline che i modelli futuri. In altre parole, l'intelligenza artificiale e gli esseri umani potrebbero finire per trascinarsi a vicenda verso il basso.

Come ha affermato Shuo Xing, uno degli autori principali, "la salute dell'IA e la salute cognitiva umana non sono questioni separate". Inoltre, non è facile verificare se ChatGPT o Gemini siano stati addestrati con dati spazzatura, poiché i loro dati di addestramento non sono pubblici. Per questo motivo, Tu auspica una maggiore trasparenza nello sviluppo dell'IA, in modo che i ricercatori possano effettivamente esaminare i dati.

ARTICOLI CORRELATI:

• Cosa fa un agente di intelligenza artificiale quando viene lasciato solo senza un compito? Questo esperimento offre un indizio
• Un nuovo studio rivela che i chatbot mostrano tratti di personalità diversi a seconda della lingua.
• Ricevere consigli sulla salute da chatbot basati sull'intelligenza artificiale comporta un problema che i medici potrebbero non vedere mai
• Questo bot basato sull'intelligenza artificiale si occupa per te dello scorrimento automatico e senza senso di internet, così puoi evitare di perderti in inutili distrazioni.