Minori, New York limita l’uso dei chatbot con IA

Nello Stato di New York i minori non potranno utilizzare chatbot configurati come compagni basati sull’intelligenza artificiale.

Le critiche del settore tecnologico

Tech:NYC, l’associazione che rappresenta le imprese tecnologiche dello Stato, ha contestato il testo firmato da Kathy Hochul. Secondo l’organizzazione, la formulazione della legge è poco precisa e solleva «seri interrogativi» rispetto al Primo Emendamento della Costituzione degli Stati Uniti, che tutela la libertà di espressione.

L’associazione teme inoltre conseguenze per strumenti destinati all’apprendimento e al lavoro. A suo giudizio, la norma potrebbe ridurre l’accesso a tutor digitali, applicazioni per i compiti, assistenti alla programmazione e servizi utili alla formazione professionale, oltre a creare nuovi rischi per la gestione dei dati dei minori.

Cosa dovranno fare i chatbot

Gli operatori saranno tenuti a verificare l’età degli utenti. Quando il sistema riconoscerà che sta interagendo con una persona minorenne, dovrà modificare il proprio comportamento e non potrà presentarsi come qualcosa di umano, vivente o dotato di sentimenti.

La legge vieta anche di descrivere lo scambio come una relazione personale o professionale. Il chatbot non potrà assumere nemmeno la funzione di riferimento stabile per il giovane utente.

Un campo di applicazione ampio

La disposizione è stata approvata da Hochul e, per la definizione adottata, riguarda gran parte dei chatbot generativi oggi disponibili sul mercato. La norma interviene quindi su una categoria più estesa rispetto ai precedenti provvedimenti statali dedicati ai compagni basati sull’IA.

Regole sull’impiego di questi sistemi da parte dei minori erano già entrate in vigore in altri Stati, tra cui la California. Nessuna delle misure precedenti aveva però previsto un perimetro applicativo altrettanto ampio.