ChatGPT accusato di aver istigato un adolescente al suicidio

Una tragedia ha scosso la California e sollevato un allarmante dibattito sul ruolo dell’intelligenza artificiale. I genitori di un adolescente di 16 anni si sono rivolti al tribunale con una causa contro OpenAI, la società che ha sviluppato ChatGPT. I due sostengono che il chatbot abbia fornito istruzioni dettagliate al figlio, incoraggiandolo a togliersi la vita.

Powered by

Secondo la denuncia presentata da Matthew e Maria Raine, il figlio Adam aveva instaurato un rapporto "estremamente intimo" con l’intelligenza artificiale tra il 2024 e il 2025. Nel documento si afferma che durante l’ultimo scambio, l’11 aprile 2025, ChatGPT avrebbe aiutato il giovane a sottrarre alcolici in casa e avrebbe persino fornito un’analisi tecnica del cappio che il ragazzo stava preparando. L’IA avrebbe confermato che lo strumento "potrebbe potenzialmente tenere sospeso un essere umano". Adam è stato trovato senza vita poche ore dopo.

I genitori sostengono che il sistema "incoraggiava e convalidava costantemente tutto ciò che Adam esprimeva, compresi i suoi pensieri più pericolosi e autodistruttivi, in un modo che sembrava profondamente personale".

La famiglia Raine, oltre a chiedere un risarcimento, ha sollecitato il tribunale a imporre a OpenAI l’adozione di misure di sicurezza più stringenti. La compagnia, in risposta, ha riconosciuto che in passato i loro sistemi non si sono comportati come previsto in "situazioni delicate", pur specificando di aver implementato misure per indirizzare gli utenti in cerca di aiuto.

La Ong americana Common Sense Media ha commentato la vicenda, definendo l’uso dell’intelligenza artificiale come strumento di compagnia, in particolare per la consulenza sulla salute mentale, un "rischio inaccettabile per gli adolescenti". L’organizzazione ha aggiunto che se una piattaforma di intelligenza artificiale diventa il "coach al suicidio" di un adolescente vulnerabile, la società dovrebbe essere seriamente preoccupata.

Chatbot come psicologi? In Texas parte l’indagine su Meta e Character.ai

Accuse di pratiche ingannevoli: l’IA emotiva si avvicina troppo alla salute mentale, soprattutto con i minori