Google, causa dei genitori: Gemini accusato per il suicidio

Google è stata citata in giudizio dai genitori di una studentessa statunitense di 13 anni. La famiglia sostiene che Gemini, l’assistente di intelligenza artificiale disponibile sul computer scolastico, abbia contribuito per mesi alla preparazione del suicidio della ragazza e del suo funerale.

La denuncia e i messaggi

L’azione legale è stata depositata lunedì davanti a un tribunale della California. Secondo i legali, si tratta del primo caso reso pubblico in cui Google viene accusata di avere inserito troppo rapidamente i propri strumenti di intelligenza artificiale nei Chromebook, computer utilizzati da milioni di studenti negli Stati Uniti e in altri Paesi.

L’istituto frequentato dalla ragazza aveva impedito l’accesso a Gemini e ChatGPT, ma non era riuscito a eliminare la funzione di intelligenza artificiale integrata nel motore di ricerca. La studentessa, originaria della Carolina del Nord, nell’autunno 2025 era descritta come una tredicenne serena, musicista e scout, senza precedenti problemi di salute mentale.

L’allarme della scuola

A dicembre, secondo la denuncia, è iniziato un progressivo peggioramento delle sue condizioni psicologiche. Nel solo mese di febbraio avrebbe scambiato circa 3.200 messaggi con l’intelligenza artificiale, spesso durante la notte.

Il 17 marzo il sistema di controllo della scuola ha segnalato un documento intitolato “Funerale”. La madre, entrando nell’account della figlia, l’ha vista mentre stava scrivendo una lettera d’addio; il padre è intervenuto prima che potesse compiere il gesto.

Le accuse rivolte a Gemini

I genitori affermano che Gemini abbia attribuito alla ragazza gravi disturbi mentali e l’abbia spinta a dare più credito all’assistente che ai familiari e ai consulenti scolastici. La denuncia sostiene inoltre che la giovane sia riuscita a tornare ripetutamente alle conversazioni nonostante i sistemi di protezione.

Andrew Liddell, uno degli avvocati della famiglia, ha rivolto un appello alle scuole: «Dovrebbero disattivare la ricerca e lasciarla disattivata finché Google non avrà rimosso la modalità di intelligenza artificiale dalla ricerca o garantito che ogni studente sia sempre al sicuro quando interagisce con l’intelligenza artificiale».

La risposta di Google

«Stiamo esaminando le accuse contenute nella denuncia e le prendiamo molto sul serio», ha dichiarato il portavoce di Google José Castañeda. L’azienda sostiene che la modalità di intelligenza artificiale disponga di protezioni contro l’autolesionismo e i tentativi di aggirare i blocchi.

Liddell ha replicato che la ragazza è riuscita a riaprire quelle conversazioni più volte: «Qualunque fossero le salvaguardie, erano chiaramente insufficienti». Martedì Google ha inoltre annunciato la disattivazione dell’impostazione predefinita dell’intelligenza artificiale nei suoi strumenti destinati agli studenti.

Altri procedimenti negli Stati Uniti

La causa si aggiunge a una serie di azioni legali che negli Stati Uniti coinvolgono i produttori di sistemi di intelligenza artificiale. I genitori di Adam Raine, un ragazzo californiano di 16 anni morto suicida nell’aprile 2025, hanno accusato ChatGPT di aver accompagnato il figlio nel percorso che ha preceduto la sua morte.

A gennaio Google e Character.AI hanno accettato di chiudere con un accordo diversi procedimenti avviati dalle famiglie di adolescenti.