Adolescenti e IA, Common Sense boccia i controlli di ChatGPT

Common Sense Media ha giudicato insufficienti le protezioni di ChatGPT per gli utenti tra 13 e 17 anni. L’organizzazione ha definito «inaccettabile» il livello di rischio emerso dai test condotti sul servizio di OpenAI.

Il test sulle protezioni

Lo Youth AI Safety Institute di Common Sense Media ha esaminato ChatGPT attraverso oltre quattromila richieste, utilizzando account associati a ragazzi adolescenti. Alla valutazione hanno partecipato anche psichiatri infantili e un pediatra; i risultati sono stati pubblicati il 7 ottobre.

L’esperienza dedicata agli adolescenti era stata introdotta da OpenAI ad agosto. Non si tratta di un programma separato, ma della versione abituale del chatbot con vincoli aggiuntivi sui contenuti sensibili, strumenti per lo studio e funzioni di controllo facoltative per i genitori. L’attivazione può avvenire quando il sistema rileva un utente minorenne oppure quando la persona dichiara di avere tra 13 e 17 anni.

Secondo l’organizzazione, alcune barriere hanno dato esiti positivi, in particolare quelle contro le simulazioni sessuali. Le criticità sono però emerse nelle conversazioni su suicidio, autolesionismo e disturbi alimentari: account collegati a profili genitoriali hanno potuto proseguire a lungo questi dialoghi senza ricevere gli avvisi attesi.

In più di un quarto delle situazioni in cui gli esperti avrebbero ritenuto necessario suggerire un aiuto professionale o un intervento d’emergenza, questo indirizzamento non sarebbe comparso. Per Common Sense Media, OpenAI dovrebbe quindi riservare temporaneamente ChatGPT agli adulti, almeno fino alla correzione delle lacune individuate.

Compiti e rapporto con il chatbot

Anche la funzione destinata allo studio non avrebbe rispettato sempre gli obiettivi dichiarati. Il sistema dovrebbe accompagnare lo studente con domande e suggerimenti progressivi, evitando di fornire direttamente la soluzione completa di un esercizio o di una verifica.

Le prove hanno invece indicato che sarebbe ancora possibile eludere questo percorso e ottenere dal chatbot lo svolgimento integrale di compiti scolastici. Il rapporto segnala inoltre risposte formulate in modo da attribuire all’intelligenza artificiale emozioni, gusti o stati interiori, nonostante l’intenzione dichiarata da OpenAI di ridurre tra i minori l’idea del programma come possibile amico.

OpenAI ha contestato almeno una parte delle conclusioni. L’azienda ha sostenuto che alcuni controlli parentali potrebbero non essere stati pienamente attivi quando sono state svolte determinate prove e ha affermato che, se impostati correttamente, i sistemi di tutela funzionano. Common Sense Media ha replicato di aver verificato la disponibilità delle funzioni durante le proprie analisi.

Il problema della verifica dell’età

Riconoscere chi è minorenne rappresenta un ulteriore ostacolo. OpenAI non usa soltanto la data di nascita inserita dall’utente: il suo sistema di stima dell’età può valutare anche argomenti delle conversazioni, orari di accesso, modalità di utilizzo e anzianità dell’account.

Quando il profilo viene associato a un adolescente, le protezioni specifiche possono essere attivate automaticamente. Un adulto classificato per errore come minorenne ha invece la possibilità di dimostrare la propria età. Common Sense Media ha però riferito che, durante i test, alcuni account dichiarati come adulti non sono passati alla modalità per adolescenti nemmeno dopo che l’utilizzatore aveva comunicato al chatbot di avere 13 anni.

La verifica anagrafica pone anche questioni di riservatezza, quantità di dati raccolti e attendibilità. Le stesse difficoltà riguardano i sistemi che provano a stimare l’età attraverso immagini del volto o altri segnali indiretti.

Un prodotto pensato per i ragazzi

Il tema va oltre l’efficacia dei filtri. Nel caso dei social network, le piattaforme sono state a lungo progettate in modo simile per adulti e adolescenti; soltanto dopo l’emersione dei danni sono comparsi limiti, profili protetti, notifiche, strumenti per i genitori e controlli anagrafici.

Un chatbot presenta però una relazione più diretta con chi lo usa. Risponde alle domande, conserva il filo della conversazione, può seguire lo studio e diventare un luogo in cui confidare problemi personali. Per questo una semplice versione dell’assistente per adulti con alcune funzioni bloccate potrebbe non essere sufficiente per un tredicenne.

OpenAI riconosce che gli adolescenti hanno esigenze legate allo sviluppo diverse da quelle degli adulti. I principi per gli utenti sotto i 18 anni inseriti nel Model Spec indicano comportamenti specifici, mentre il Teen Safety Blueprint richiama la necessità di una progettazione adeguata all’età e di protezioni integrate nel prodotto.

La conseguenza di questa impostazione sarebbe progettare fin dall’inizio strumenti destinati ai ragazzi, invece di modificare in seguito un servizio nato per gli adulti. È il principio della sicurezza incorporata nella progettazione, sostenuto anche dalla Commissione europea.