IA fuori controllo, Anthropic vuole il potere di fermarla

Chi dovrebbe poter arrestare un sistema di intelligenza artificiale prima che provochi una strage o danni enormi? Anthropic prova a rispondere a questa domanda con una proposta legislativa destinata al Congresso degli Stati Uniti, pensata per impedire la diffusione dei modelli più rischiosi.

Secondo un'indiscrezione riportata da Politico, l'azienda guidata da Dario Amodei avrebbe elaborato un meccanismo basato su valutazioni indipendenti e sul possibile coinvolgimento della magistratura. L'obiettivo sarebbe intervenire prima che un sistema avanzato, capace di operare con una supervisione umana limitata, produca conseguenze irreversibili.

Le soglie per bloccare un modello

Il piano prenderebbe in considerazione criteri quantitativi precisi. Un provvedimento per sospendere la distribuzione potrebbe essere richiesto quando esiste un pericolo prevedibile e imminente di causare la morte di più di 50 persone oppure di generare danni economici superiori a circa 892 milioni di euro.

La proposta non riguarderebbe quindi ogni strumento di IA, ma soprattutto i modelli più avanzati e autonomi. Prima di autorizzarne la messa a disposizione, verificatori indipendenti dovrebbero esaminare le loro capacità e l'eventuale esposizione a scenari di rischio estremo.

Le minacce al centro della proposta

Tra i casi considerati figurano l'assistenza allo sviluppo di armi biologiche e la possibilità di condurre attacchi informatici. L'attenzione sarebbe rivolta anche ai sistemi in grado di sottrarsi ai controlli predisposti dai loro stessi sviluppatori.

In presenza di una minaccia concreta, l'autorità giudiziaria potrebbe così valutare il blocco della distribuzione del modello. Il progetto riflette il dibattito ancora aperto sulle modalità con cui limitare la crescita delle tecnologie di IA: non esiste infatti una posizione condivisa né sul livello di allarme da adottare né su chi debba avere l'ultima parola.