New York, limiti ai chatbot per gli utenti minorenni

Lo Stato di New York ha approvato una legge che limita le interazioni tra minori e sistemi di intelligenza artificiale capaci di comportarsi come compagni virtuali. Il provvedimento è stato promulgato dalla governatrice Kathy Hochul.

Verifica dell’età obbligatoria

La norma riguarda una categoria ampia di strumenti, comprendendo gran parte degli assistenti conversazionali generativi oggi disponibili. Gli operatori dovranno accertare quanti anni abbia l’utente e modificare il comportamento del sistema quando la persona è minorenne.

Per i ragazzi, l’intelligenza artificiale non potrà produrre messaggi che la descrivano come umana, vivente o dotata di sentimenti. Sarà inoltre vietato presentare il rapporto con l’utente come una relazione personale o lavorativa, oppure assumere la funzione di riferimento stabile nella vita del minore.

Le critiche del settore tecnologico

Tech:NYC, l’organizzazione che rappresenta le imprese tecnologiche dello Stato, ha contestato la legge sostenendo che la formulazione lasci spazio a interpretazioni troppo ampie. Secondo l’associazione, il testo solleva «seri interrogativi» rispetto al Primo Emendamento della Costituzione degli Stati Uniti, che tutela la libertà di espressione.

L’organizzazione teme anche conseguenze per servizi utilizzati dagli studenti. Tra gli strumenti potenzialmente coinvolti indica il tutoraggio, l’aiuto nei compiti, gli assistenti per la programmazione e le piattaforme legate alla formazione professionale.

Le norme già adottate

Altri Stati americani, tra cui la California, avevano già introdotto regole sui compagni basati sull’intelligenza artificiale destinati ai minori. La disciplina newyorkese si distingue però per l’ampiezza della definizione, che può includere numerosi sistemi generativi presenti sul mercato.

Tech:NYC sostiene infine che i limiti potrebbero spingere alcuni operatori a raccogliere più dati per verificare l’età degli utenti. A suo giudizio, questo aumenterebbe i rischi legati alla gestione delle informazioni personali dei minori.