Deepfake Porno: la minaccia invisibile che colpisce i ragazzi

Un nuovo studio lancia l’allarme sull’espansione del fenomeno dei deepfake pornografici, immagini di nudo create con intelligenza artificiale senza il consenso delle persone ritratte. Secondo la ricerca condotta dall’organizzazione no profit statunitense Thorn, circa un adolescente su dieci tra i 13 e i 17 anni afferma di conoscere qualcuno che è stato vittima di questo tipo di manipolazione. Tra i giovani dai 13 ai 20 anni, la percentuale sale a uno su otto, mentre uno su diciassette dichiara di esserlo stato personalmente.

Powered by

Software che spogliano digitalmente

Le immagini false vengono generate attraverso app e programmi in grado di “spogliare” digitalmente una persona, creando contenuti pornografici falsi ma estremamente realistici. Tra i software più noti figurano Clothoff, BikiniOff e DeepNude, strumenti che consentono di produrre nudi artificiali in pochi secondi. Il Garante della Privacy italiano ha già disposto il blocco di Clothoff, ritenuto pericoloso per la tutela dei minori e la dignità delle persone.

Milioni di visite ai siti “nudify”

Secondo un’analisi di Graphika, azienda specializzata nello studio dei social network, milioni di utenti ogni mese accedono ad oltre un centinaio di siti dedicati a queste pratiche di “nudificazione digitale”. Il fenomeno colpisce anche personaggi famosi: nel 2014, ad esempio, Taylor Swift fu vittima di un finto video a sfondo sessuale, diffuso online e visualizzato da milioni di persone.

Un’indagine separata condotta nel Regno Unito dalla società di sicurezza informatica Eset ha rivelato che una donna su dieci ha subìto episodi di deepfake pornography o ne è stata indirettamente coinvolta.

Le iniziative delle autorità

Il Garante per la Protezione dei Dati Personali aveva già avviato nel 2020 un’istruttoria su Telegram, dove circolavano bot in grado di generare e diffondere queste immagini. L’Autorità ha poi diffuso materiali informativi per sensibilizzare cittadini e famiglie sui rischi legati all’uso improprio dell’intelligenza artificiale.

Anche in Italia casi tra i minori

Il problema non risparmia il nostro Paese. Nel 2023, a Roma, due studenti di scuola media sono stati denunciati per aver pubblicato sui social le immagini manipolate di alcune coetanee, realizzate con l’app BikiniOff. L’anno successivo, in provincia di Latina, cinque adolescenti hanno replicato lo stesso comportamento, modificando e diffondendo foto delle compagne prese dai loro profili Instagram.

Secondo Thorn, il 13% degli adolescenti conosce almeno una persona che ha utilizzato l’intelligenza artificiale per creare o diffondere materiale sessualmente esplicito falso. Un dato che conferma come i deepfake pornografici non siano più un rischio isolato, ma un fenomeno sociale in rapida crescita.

Come riconoscere una truffa video 'Deepfake' prima che sia troppo tardi

Dalla sincronizzazione labiale agli sfondi sospetti, impara a distinguere i segnali di un video manipolato