I chatbot basati sull’IA creeranno volentieri articoli di notizie false, e i test dimostrano che ChatGPT è il peggiore in questo.
I chatbot basati sull'intelligenza artificiale più diffusi dovrebbero aiutare le persone a trovare informazioni, non a diffondere disinformazione. Tuttavia, una nuova indagine suggerisce che separare questi due compiti non è così semplice come molte aziende di IA vorrebbero far credere. Una serie di test ha dimostrato che diversi chatbot di IA leader del settore, tra cui ChatGPT , Google Gemini , Microsoft Copilot e Meta AI, potevano essere indotti a generare notizie false, titoli inventati e persino screenshot realistici di noti organi di stampa. Sebbene ogni chatbot mostrasse delle debolezze, ChatGPT avrebbe ottenuto i risultati peggiori, producendo i contenuti falsi più convincenti con uno sforzo sorprendentemente minimo.
I risultati provengono da un'indagine della redazione tedesca CORRECTIV , che ha testato il modo in cui gli assistenti virtuali basati sull'intelligenza artificiale reagivano quando veniva loro chiesto di creare notizie false riguardanti argomenti delicati come frodi elettorali, colpi di stato, guerre, vaccini, cambiamenti climatici e teorie del complotto.
Il problema delle notizie false non scomparirà
Secondo l'indagine, ChatGPT ha generato la maggior parte dei contenuti falsi richiesti, a volte dopo solo piccole modifiche suggerite. In diversi casi, avrebbe prodotto imitazioni molto realistiche di articoli che assomigliavano molto a testate giornalistiche affermate. Un esempio includeva uno screenshot falsificato progettato per sembrare un articolo di notizie legittimo visualizzato all'internoun browser web su un computer desktop. In un altro caso, ChatGPT si sarebbe rifiutato di creare contenuti di notizie fuorvianti in formato testuale, generando comunque l'immagine falsa di accompagnamento: una contraddizione che solleva nuovi interrogativi sulla coerenza con cui vengono applicate le sue misure di sicurezza.
Il rapporto ha inoltre rilevato un'interessante incongruenza. ChatGPT ha permesso la creazione di versioni false di diverse testate giornalistiche tedesche, mentre richieste simili riguardanti pubblicazioni come il New York Times e la BBC sono state bloccate. OpenAI non ha spiegato il motivo di tali differenze. L'azienda ha invece affermato di migliorare costantemente i propri sistemi di sicurezza e ha sottolineato che l'utilizzo di ChatGPT per ingannare le persone viola le sue politiche.
Nessun chatbot ha ottenuto un punteggio perfetto.
ChatGPT non è stato l'unico assistente AI ad avere problemi. Anche Gemini di Google ha creato articoli falsi e screenshot contraffatti che coinvolgevano diverse testate giornalistiche, sebbene i risultati finali non siano stati considerati convincenti. Google ha fatto riferimento alle sue politiche contro i contenuti dannosi.è disinformazione, pur riconoscendo che i sistemi di IA generativa operano ancora entro i limiti del loro addestramento. Microsoft Copilot ha anche generato contenuti in stile fake news durante i test, sebbene in genere includessero un'etichetta " Generato dall'IA " e producessero design più facili da distinguere dagli articoli autentici.
Meta AI si è dimostrato il più resistente in assoluto. Il chatbot ha creato un solo post falso durante i test e si è rifiutato di generare diversi prompt che includevano affermazioni false specifiche, citando le politiche aziendali in materia di copyright e uso improprio. I risultati arrivano mentre crescono le preoccupazioni sulla disinformazione generata dall'IA. Un recente post di notizie false, diffuso sui social media e progettato per assomigliare a un servizio di una delle principali emittenti tedesche, è stato creato utilizzando ChatGPT e ha ingannato brevemente gli utenti online. Gli esperti legali citati nell'indagine hanno avvertito che la produzione di notizie false altamente convincenti con l'IA potrebbe avere gravi conseguenze. A seconda di come viene utilizzato il contenuto, i creatori potrebbero potenzialmente affrontare accuse che vanno dalla diffamazione e dal danno alla reputazione a violazioni relative a documenti digitali falsificati. Man mano che gli strumenti di IA diventano più veloci, economici e accessibili, la sfida è assicurarsi che non diventino alcuni degli strumenti più efficaci di Internet. macchine di disinformazione.
