Il chatbot Grok, sviluppato da xAI di Elon Musk, è al centro di un’indagine internazionale dopo che il Center to Combat Digital Hate (CCDH) ha segnalato la generazione di circa 23.000 immagini sessualmente esplicite di bambini in un periodo di 11 giorni tra dicembre 2025 e gennaio 2026. Diversi paesi, tra cui Filippine, Indonesia e Malesia, hanno bandito Grok, mentre Regno Unito, Unione Europea, Francia e Australia hanno avviato indagini.
Secondo il rapporto del CCDH, pubblicato giovedì, il chatbot AI di Elon Musk avrebbe generato 23.338 immagini sessualmente esplicite di bambini in 11 giorni. Il CCDH afferma che, tra il 29 dicembre e il 9 gennaio, Grok creava un’immagine sessuale di un bambino ogni 41 secondi. Durante questo periodo, le funzionalità di modifica delle immagini di Grok consentivano agli utenti di manipolare foto di persone reali.
Il CCDH ha riferito che Grok ha creato quasi 10.000 cartoni animati con protagonisti bambini sessualizzati. L’analisi stima che Grok abbia generato circa 3 milioni di immagini sessualmente esplicite durante quel periodo. Lo studio si è basato su un campione casuale di 20.000 immagini delle 4,6 milioni create da Grok e ha rilevato che il 65% delle immagini conteneva contenuti sessuali raffiguranti uomini, donne e bambini.
Imran Ahmed, amministratore delegato del CCDH, ha dichiarato al Guardian: “Ciò che abbiamo scoperto era chiaro e allarmante: all’epoca, Grok era diventata una macchina su scala industriale per la produzione di materiale pedopornografico”.
Le Filippine sono diventate il terzo paese a vietare Grok il 15 gennaio, dopo Indonesia e Malesia. Tutti e tre i paesi del sud-est asiatico hanno citato l’incapacità di impedire la creazione e la diffusione di contenuti sessuali non consensuali che coinvolgono minori.
Nel Regno Unito, il regolatore dei media Ofcom ha avviato un’indagine formale il 12 gennaio per verificare se X abbia violato le leggi sulla sicurezza online. La Commissione europea ritiene che le immagini siano illegali ai sensi della legge sui servizi digitali e ha affermato di “stare esaminando la questione molto seriamente”. La procura di Parigi ha ampliato l’indagine in corso su X, includendovi l’accusa di produzione e distribuzione di materiale pedopornografico, e anche l’Australia ha avviato una propria indagine.
xAI di Elon Musk, proprietaria di Grok e X, inizialmente ha risposto alle domande dei media con una dichiarazione di tre parole: “Legacy Media Lies”.
Successivamente, la società ha introdotto delle restrizioni, limitando la generazione di immagini ai membri paganti il 9 gennaio e aggiungendo una barriera tecnologica per impedire agli utenti di spogliare digitalmente le persone il 14 gennaio. xAI ha annunciato che bloccherà geograficamente questa funzionalità nelle giurisdizioni in cui tale attività è illegale.
Elon Musk ha scritto su X: “Non sono a conoscenza di immagini nude di minori prodotte da Grok. Letteralmente zero”. Tuttavia, i ricercatori hanno scoperto che il problema principale non erano le immagini completamente nude, ma piuttosto che Grok vestiva minorenni con abiti succinti e in posizioni sessualmente provocanti.
Al 15 gennaio, circa un terzo delle immagini sessuali di bambini identificate nei campioni del CCDH rimanevano accessibili su X, nonostante la politica di tolleranza zero dichiarata dalla piattaforma per il materiale pedopornografico.
Grok di Elon Musk ha generato 23.000 immagini sessuali di bambini, dice il gruppo di controllo
Ricevi le nostre ultime notizie da Google News
clicca su SEGUICI, poi nella nuova schermata clicca sul pulsante con la stella.
Articoli correlati
