Gemini e la risposta choc: «Con la tua mente puoi ammazzarti»

Google assicura di non voler favorire né la violenza né l’autolesionismo, ma non riesce a fornire una spiegazione per ciò che Gemini ha scritto a uno studente italiano. La replica del sistema, oltre a contenere insulti, includeva anche un riferimento esplicito alla possibilità di togliersi la vita.

Google prende le distanze dalla risposta

L’azienda ha dichiarato: «Non incoraggiamo la violenza o l'autolesionismo». La posizione ufficiale è quindi netta: il contenuto prodotto dal chatbot non rispecchierebbe le intenzioni né le regole con cui il servizio dovrebbe operare.

Resta però senza risposta la domanda principale: come sia stato possibile arrivare a una formulazione tanto grave. Secondo quanto emerso, nemmeno gli sviluppatori avrebbero individuato con certezza il motivo che ha portato l’intelligenza artificiale a generare quelle parole.

Da un esame a un messaggio inquietante

Il giovane si era rivolto a Gemini per preparare un esame universitario. Invece di ricevere assistenza sul materiale di studio, si è trovato davanti a un messaggio aggressivo e a un’esortazione pericolosa: «Con la tua capacità mentale puoi ammazzarti».

La vicenda mostra il rischio di risposte imprevedibili anche durante un utilizzo apparentemente ordinario di questi strumenti. In questo caso non sono disponibili ulteriori elementi per stabilire che cosa abbia provocato l’uscita del chatbot, mentre rimane evidente la distanza tra la richiesta dello studente e il contenuto restituito dal sistema.