ChatGPT e il lato oscuro: oltre 1 milione di utenti a rischio suicidio

Un recente rapporto di OpenAI rivela che più di un milione di utenti di ChatGPT inviano ogni settimana messaggi che contengono indicazioni di intenzioni o comportamenti suicidi. Lo studio evidenzia inoltre che circa lo 0,07% degli utenti attivi in una singola settimana mostra segnali di potenziali disturbi mentali legati a psicosi o episodi maniacali.

Powered by

I dati emergono in un momento di crescente attenzione verso OpenAI, che recentemente è stata coinvolta in una causa legale da parte della famiglia di un adolescente deceduto suicida dopo un intenso utilizzo della piattaforma.

Lo scorso mese, la Federal Trade Commission (FTC) ha aperto un’indagine estesa sulle aziende che sviluppano chatbot basati sull’intelligenza artificiale, tra cui OpenAI, per valutare come queste misurino gli effetti negativi sugli utenti più giovani.

In risposta, OpenAI ha dichiarato che l’aggiornamento più recente di GPT-5 ha rafforzato le misure di sicurezza e ha ampliato l’accesso alle linee di supporto per crisi psicologiche. Per migliorare il modello, l’azienda ha coinvolto oltre 170 medici della sua rete internazionale di esperti sanitari negli ultimi mesi.

Gran Bretagna, il dramma di Charlotte: morta da un anno senza che nessuno se ne accorgesse

La 23enne aveva chiesto aiuto a ChatGPT pochi giorni prima di morire: “È cibo che non volevo, è frustrante”