Chatbot, New York vieta ai minori gli amici artificiali

Nello Stato di New York è entrata in vigore una legge che limita ai minori di 18 anni l’uso dei chatbot progettati come compagni virtuali. La governatrice Kathy Hochul ha firmato il provvedimento durante una cerimonia ufficiale.

La norma riguarda anche servizi come ChatGPT di OpenAI e obbliga i gestori a verificare l’età degli utenti prima di consentire l’accesso alle funzioni interessate.

Le funzioni vietate ai minori

Quando il sistema riconosce un utente minorenne, non può formulare risposte che lo spingano a ritenere l’intelligenza artificiale un essere umano, un’entità vivente o una presenza capace di emozioni umane.

Il chatbot deve inoltre evitare qualsiasi contenuto che faccia pensare all’esistenza di un legame personale, di un rapporto professionale o di una posizione di autorità. La legge impedisce anche di presentare le risposte generate come se fossero opinioni personali del sistema.

Secondo Hochul, la misura impedirà ai minori di utilizzare programmi che simulano il ruolo di amici o partner sentimentali. «I minori non avranno più accesso a chatbot che fingono di essere loro amici, fidanzati o fidanzate», ha detto la governatrice durante la firma.

Dati sensibili e controlli

Tra gli obblighi previsti per i gestori c’è anche il divieto di conservare informazioni sensibili legate alla salute emotiva o fisica dei minori. La disposizione amplia così l’intervento oltre il semplice controllo dei contenuti prodotti durante la conversazione.

Hochul ha aggiunto che «i chatbot non potranno più conservare informazioni sensibili riguardanti la salute emotiva o fisica di un minore». La responsabilità di applicare i limiti ricade sulle aziende che gestiscono questi strumenti, chiamate a distinguere gli utenti adulti da quelli sotto i 18 anni.

Le altre norme negli Stati Uniti

New York non è il primo Stato americano a intervenire sui chatbot basati sull’intelligenza artificiale. Anche la California ha approvato regole rivolte a questi servizi destinati al pubblico.

La legge firmata da Hochul si distingue però per l’ampiezza della formulazione: non si concentra soltanto su singoli messaggi o su specifici rischi, ma interviene sulle modalità con cui il sistema può rappresentare se stesso e sul tipo di rapporto che può simulare con un minore.