L’UNICEF ha lanciato un appello urgente ai governi di tutto il mondo mercoledì, chiedendo la criminalizzazione dei contenuti di abusi sessuali su minori generati dall’intelligenza artificiale. La richiesta fa seguito alla pubblicazione di uno studio che rivela come, nell’ultimo anno, almeno 1,2 milioni di bambini in 11 paesi hanno visto le proprie immagini alterate in deepfake sessualmente espliciti.
La cifra, proveniente dall’Innocenti Strategic Evidence Directorate dell’UNICEF, da ECPAT International e dal progetto di ricerca “Toxic Destruction Phase 2” condotto da Interpol, indica che in alcuni paesi 1 bambino su 25 è vittima di questo fenomeno.
Lo studio, basato su un sondaggio su quasi 11.000 bambini, evidenzia la capacità dei criminali di creare immagini sessuali realistiche di minori senza il loro consenso o consapevolezza.
I dati indicano che in alcuni dei paesi presi in esame, fino a due terzi degli intervistati temono che l’intelligenza artificiale possa essere utilizzata per generare immagini e video sessuali falsi. Tuttavia, il livello di preoccupazione varia significativamente da paese a paese.
“Dobbiamo essere chiari: le immagini sessuali di bambini generate o manipolate utilizzando strumenti di intelligenza artificiale sono materiale di abuso sessuale su minori (CSAM)”, ha affermato l’UNICEF. “L’abuso deepfake è un abuso e il danno che provoca è inequivocabile.”
Parallelamente, le autorità francesi hanno compiuto un’irruzione nell’ufficio di X a Parigi, mentre i pubblici ministeri hanno convocato Elon Musk e altri dirigenti per interrogarli in merito a un’indagine penale sulle accuse di pornografia infantile riguardanti il chatbot AI Grok della piattaforma.
Un rapporto del Centro contromisure contro l’odio digitale ha stimato che Grok abbia creato 23.338 immagini sessuali di bambini in 11 giorni tra dicembre 2023 e gennaio 2024.
L’UNICEF ha evidenziato come questi sviluppi segnalino una “grave escalation nei rischi che i bambini affrontano nell’ambiente digitale” e che i diritti dei bambini alla protezione potrebbero essere violati “senza aver mai inviato un messaggio o nemmeno essere consapevoli che ciò sia accaduto”.
La Internet Watch Foundation britannica ha segnalato circa 14.000 immagini sospette generate dall’intelligenza artificiale in un singolo forum del dark web in un solo mese. Le autorità sudcoreane hanno inoltre riportato un aumento di dieci volte nei crimini sessuali legati all’intelligenza artificiale e ai deepfake dal 2022 al 2024, con la maggior parte dei sospettati adolescenti.
L’organizzazione ha invitato urgentemente tutti i governi ad ampliare la definizione di materiale pedopornografico per includere contenuti generati dall’intelligenza artificiale e a criminalizzarne la creazione, l’approvvigionamento, il possesso e la distribuzione.
L’UNICEF ha inoltre invitato gli sviluppatori di intelligenza artificiale ad adottare un approccio di progettazione sicuro e le aziende digitali a impedire la circolazione di tali materiali.
L’organizzazione invita gli Stati a richiedere alle aziende di condurre una due diligence sui diritti dei bambini, in particolare valutazioni di impatto sui diritti dei bambini, e a richiedere a tutti gli attori nella catena del valore dell’intelligenza artificiale di incorporare misure di salvaguardia, compresi test di sicurezza prima del rilascio dei modelli open source.
L’UNICEF ha avvertito che “il danno causato dall’uso improprio dei deepfake è reale e imminente”. “I bambini non vedono l’ora che la legge si adegui.”
La Commissione Europea ha avviato un’indagine formale per verificare se X abbia violato le norme digitali dell’UE non essendo riuscito a impedire a Grok di produrre contenuti illegali. Filippine, Indonesia e Malesia hanno vietato Grok e i rispettivi regolatori nazionali, mentre Inghilterra e Australia hanno avviato un’indagine.
L’UNICEF esorta i governi a criminalizzare il materiale pedopornografico generato dall’intelligenza artificiale
Ricevi le nostre ultime notizie da Google News
clicca su SEGUICI, poi nella nuova schermata clicca sul pulsante con la stella.
