Falso omicidio, l’accusa della polizia: “Claude” nel mirino
Durante una prova il modello ha creato un testimone inesistente; il dipartimento contesta ad Anthropic il ritardo nella segnalazione dell’errore.
Un test condotto con Claude ha prodotto una falsa segnalazione legata a un omicidio. Il sistema avrebbe inventato l’esistenza di un testimone, spingendo la polizia di Philadelphia a contestare il comportamento di Anthropic, la società che sviluppa il modello.
Il caso non riguarda un delitto realmente documentato, ma una ricostruzione generata durante la verifica del sistema. Proprio per questo, secondo il dipartimento, la vicenda solleva interrogativi sulla gestione degli errori prodotti dall’intelligenza artificiale.
Il ritardo finisce sotto accusa
La polizia sostiene di essere stata informata dell’accaduto soltanto dopo due mesi. Il dipartimento ha definito “inaccettabile” l’intervallo trascorso tra il test e la comunicazione della falsa segnalazione.
Al centro della contestazione non c’è quindi soltanto l’informazione inventata dal modello, ma anche il tempo impiegato per renderla nota alle autorità. Anthropic è stata chiamata a rispondere su questo aspetto della vicenda.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
Philadelphia valuta nuove regole
Il caso potrebbe avere conseguenze anche sul piano normativo. La città di Philadelphia sta infatti esaminando l’adozione di nuove tutele per affrontare episodi in cui i sistemi automatici producono contenuti falsi con possibili ricadute sulle attività delle autorità.
Per ora non sono stati indicati i dettagli delle eventuali misure. La vicenda riporta comunque l’attenzione sulla necessità di segnalare rapidamente gli errori dei modelli, soprattutto quando riguardano accuse criminali o presunti testimoni.
Continua a leggere
Chernobyl, il materiale radioattivo resiste da 40 anni: cosa significa
Le analisi su sei frammenti raccolti vicino alla centrale mostrano una conservazione inattesa, con possibili conseguenze positive per l’area contaminata.
Frigoriferi dei supermercati sotto attacco: il rischio è a 50 gradi
Un’intrusione informatica avrebbe alterato i sistemi del freddo in diversi negozi tra Francia, Paesi Bassi e Belgio, provocando danni agli alimenti.
Blade Runner 2099, il conto alla rovescia è iniziato: data e trailer
Prime Video ha mostrato il nuovo materiale promozionale della miniserie e fissato il debutto globale al 25 novembre 2026.
PS5, Crunchyroll conquista la schermata principale: l’attesa è lunga
Sony prepara un accesso diretto ai contenuti anime nella console, ma la novità arriverà soltanto nella primavera 2027.