Roberto Navigli: "I modelli linguistici dell'IA possono commettere gravi errori, le 'allucinazioni' sono un rischio concreto"

L’Intelligenza Artificiale (IA) alla base dei grandi modelli linguistici come ChatGPT, seppur avanzata, resta lontana dalla comprensione reale del mondo. Questo, secondo Roberto Navigli, professore di elaborazione del linguaggio all'Università Sapienza di Roma, è uno dei limiti principali dei cosiddetti Large Language Models (LLM), che pur essendo in grado di generare risposte apparentemente sensate, possono commettere errori grossolani, conosciuti come 'allucinazioni'.

Sonia Bruganelli a 'Belve': "A 'Ballando con le stelle' sono stata il personaggio polemico"

La Bruganelli racconta anche del suo rapporto con il ballerino Angelo Madonia

Navigli, intervenuto al convegno sull’impatto dell’IA nell’industria audiovisiva e fotografica, organizzato a Roma da Ansa, in collaborazione con Deloitte Italia e altre realtà del settore, ha messo in guardia sulle criticità di questi sistemi che, pur imitando la lingua umana, non comprendono davvero la realtà in cui viviamo. “I modelli linguistici non ragionano come gli esseri umani”, ha dichiarato il ricercatore, sottolineando che un altro tema centrale riguarda la gestione dei dati: per funzionare, gli LLM devono analizzare miliardi di parole, ma non vivono l’esperienza diretta legata a queste parole. “Un buon lettore può leggere circa 200mila parole a settimana, quindi meno di un miliardo in tutta la vita. Gli LLM, al contrario, parlano di cose che non hanno mai visto o vissuto”, ha spiegato Navigli.

Ecco a voi Minerva, la "ChatGPT" tutta italiana

E' in grado di produrre risposte coerenti, pertinenti e adattate al contesto, con un focus sulla sicurezza e sull’etica

Il rischio di errori imprevisti e 'allucinazioni', quindi, è elevato, proprio perché questi modelli non sono in grado di associare il linguaggio a esperienze reali, ma si limitano a riprodurre pattern di testo sulla base dei dati con cui sono stati addestrati. Per il professor Navigli, è fondamentale riconoscere che l’IA, pur potente, non possiede una vera comprensione: “Noi, invece, dobbiamo collegare il linguaggio alla nostra esperienza”, ha sottolineato.

Decifrare il cervello: la nuova sfida di neuroscienze e AI

Questo progetto rappresenta una vera e propria rivoluzione nella ricerca

Al convegno sono emersi anche altri temi cruciali legati all'evoluzione dell'IA, come la tutela del diritto d’autore, la sostenibilità e la sicurezza. L’intervento di Navigli ha infatti evidenziato i rischi connessi alla capacità dei modelli linguistici di generare contenuti indesiderabili, siano essi testi o immagini, mettendo in discussione anche le normative esistenti. "Stiamo passando da un'IA che sa svolgere un solo compito a una che può farne tanti, ma siamo ancora a metà strada di questo processo", ha aggiunto il ricercatore, prefigurando un futuro in cui l’IA dovrà affrontare sfide più complesse e far fronte a problematiche nuove, sia etiche che legali.