OpenAI ha iniziato a introdurre a livello globale un sistema di verifica dell’età per limitare l’esposizione dei minorenni a contenuti violenti o sessuali. La mossa avviene in concomitanza con la preparazione da parte di OpenAI all’introduzione di contenuti per adulti all’interno del chatbot.
Il nuovo sistema di verifica dell’età si basa su una combinazione di segnali comportamentali e informazioni legate all’account, analizzando elementi quali l’anzianità del profilo, gli orari di utilizzo, gli schemi di attività e l’età dichiarata. L’obiettivo è una stima probabilistica per attivare protezioni in caso di dubbi sull’età reale dell’utente.
Quando il sistema rileva che un account potrebbe appartenere a un minorenne, ChatGPT applica automaticamente salvaguardie aggiuntive, limitando l’esperienza per ridurre l’esposizione a contenuti sensibili. Vengono bloccati materiali con violenza grafica, sfide virali pericolose, giochi di ruolo a sfondo sessuale o violento, rappresentazioni di autolesionismo e contenuti che promuovono standard estetici estremi, diete malsane o body shaming.
In presenza di informazioni incomplete o incerte, il sistema sceglie deliberatamente l’approccio più prudente, privilegiando un’esperienza “più sicura”.
OpenAI ha avvertito che il modello è destinato a evolversi, e la distribuzione su larga scala serve anche a raccogliere feedback e migliorare l’accuratezza del sistema, soprattutto per contrastare eventuali tentativi di aggirare le protezioni.
È prevista una procedura rapida di correzione per chi dovesse essere classificato erroneamente come minorenne. Gli utenti possono verificare se sul proprio account sono state attivate limitazioni e avviare il ripristino dell’accesso completo tramite un selfie, utilizzando Persona, un servizio esterno di verifica dell’identità. La distribuzione della funzione è attesa nelle prossime settimane nell’Unione Europea.
Accanto alle misure automatiche, OpenAI sta introducendo strumenti per i genitori. Attraverso i controlli parentali, è possibile personalizzare l’esperienza dei figli, impostando fasce orarie di utilizzo, limitando funzionalità come la memoria o l’uso dei dati per l’addestramento dei modelli e ricevendo notifiche in caso vengano rilevati segnali di disagio acuto.
OpenAI verificherà l’età degli utenti: ai minorenni contenuti più limitati
Ricevi le nostre ultime notizie da Google News
clicca su SEGUICI, poi nella nuova schermata clicca sul pulsante con la stella.
