Stai attento! I rilevatori GPT possono anche falsificare
Lo sviluppo dell’intelligenza artificiale generativa è come un cavallo selvaggio in fuga: se corri in giro, prima o poi lancerai persone che non sono brave a cavalcare.
Il 30 novembre 2022 è stato ufficialmente lanciato ChatGPT, un chat robot di intelligenza artificiale che è diventato rapidamente popolare sui social media.In soli 5 giorni, il numero di utenti registrati ha superato 1 milione.In due mesi, gli utenti attivi mensili di ChatGPT hanno superato i 100 milioni Diventa l’utente consumer in più rapida crescita nella storia.
Chiaramente non tutti sono pronti per l’assalto dell’intelligenza artificiale generativa.
All’inizio di gennaio di quest’anno, il Dipartimento dell’Istruzione della città di New York ha annunciato che avrebbe proibito agli studenti di utilizzare ChatGPT sulle apparecchiature e sulla rete della loro scuola per impedire agli studenti di imbrogliare. Anche Sciences Po di Parigi, in Francia, ha emesso ufficialmente un avviso alla fine di gennaio, vietando a tutti gli studenti e al personale di ciascun campus di utilizzare ChatGPT per completare le attività didattiche, diventando la prima scuola in Europa a implementare un “divieto totale” su ChatGPT.
Quando arrivò il momento di luglio, in un ambiente in cui l’intelligenza artificiale generativa era fiorente e un centinaio di scuole di pensiero erano in competizione, alcuni educatori stranieri iniziarono a seguire la tendenza dei tempi e ad abbracciare attivamente l’intelligenza artificiale generativa.
I presidi di 24 università di ricerca del gruppo Russell nel Regno Unito hanno recentemente sviluppato e firmato congiuntamente una linea guida volta a indicare chiaramente a studenti e personale dove l’uso dell’intelligenza artificiale generativa non è adatto, supportandoli a prendere decisioni informate e consentendo loro di prendere le decisioni giuste Utilizzare questi strumenti e riconoscerne l’uso quando necessario.
Ora, a loro avviso, fintanto che l’intelligenza artificiale generativa viene utilizzata correttamente, sarà di grande beneficio per l’istruzione, ma prima forse devono diffidare di alcuni “piccoli problemi”.
Nel campo dell’istruzione, l’applicazione di ChatGPT al completamento dei compiti degli studenti non è una novità e molti insegnanti hanno anche iniziato a vedere il rilevamento dell’intelligenza artificiale come: “la contromisura chiave per fermare la forma di imbroglio del 21° secolo”
Ma gli studi hanno dimostrato che alcuni rilevatori di intelligenza artificiale sono discriminatori e fuorvianti.
Recentemente, un team di scienziati guidato da James Zou, assistente professore di scienza dei dati biomedici presso la Stanford University, ha valutato 91 saggi TOEFL (Test of English Proficiency for Non-Native Speakers of English) scritti da non madrelingua utilizzando sette noti rilevatori GPT .
Lo studio ha rilevato che più della metà dei saggi scritti da non madrelingua inglese sono stati erroneamente etichettati come generati dall’IA in tutti e 7 i rilevatori GPT, e persino un rilevatore ha etichettato erroneamente quasi il 98% dei saggi come generati dall’IA.
L’esame di saggi scritti da studenti di terza media madrelingua inglese ha scoperto che lo stesso rilevatore di intelligenza artificiale ha etichettato più del 90 percento dei saggi come generati dall’uomo.
Nel tracciare questa discriminazione intrinsecamente distorta, i ricercatori hanno scoperto che l’IA generativa può generare testo a bassa complessità dopo un massiccio pre-addestramento, il che significa che se gli esseri umani scrivono secondo schemi familiari L’uso di molte parole comuni aumenta notevolmente il rischio di essere contrassegnati come generati dall’IA e i non madrelingua inglese corrono un rischio maggiore proprio perché è più probabile che utilizzino parole più semplici.
L’impatto di questa discriminazione è degno di attenzione. I ricercatori avvertono inoltre che “l’impatto dei rilevatori GPT sugli scrittori non nativi è serio”, aggiungendo che “nell’istruzione, probabilmente il mercato più importante per i rilevatori GPT, i non nativi rischiano di accuse di frode, che potrebbero essere dannose per un carriera accademica e salute mentale dello studente”.
Pertanto, prima di pensare se l’intelligenza artificiale generativa sia una “buona medicina” o un “veleno” per l’educazione, potrebbe essere necessario risolvere prima questi “piccoli guai”.
#Benvenuti a prestare attenzione all’account pubblico WeChat ufficiale di Aifaner: Aifaner (ID WeChat: ifanr), altri contenuti interessanti ti verranno presentati il prima possibile.
Ai Faner | Link originale · Visualizza i commenti · Sina Weibo
