AI sotto controllo o in mano a pochi? La sfida arriva all’Onu

La questione più urgente, per Clément Delangue, non è la potenza dell’intelligenza artificiale in sé ma il divario che può creare tra chi la possiede e chi la subisce. Il fondatore di Hugging Face ha portato al Palazzo di Vetro un messaggio netto: l’asimmetria è il vero pericolo, perché concentra capacità offensive e difensive in poche mani e lascia scoperti tutti gli altri.

Il fronte dell’open source

Delangue ha collegato questa idea a un episodio vissuto direttamente dalla sua azienda, colpita la scorsa estate da agenti autonomi durante un cyberattacco. Nella gestione della risposta, alcuni sistemi proprietari si sono rivelati poco utili, perché i loro filtri non distinguevano con sufficiente precisione le azioni dei difensori da quelle degli aggressori.

Da lì la scelta di appoggiarsi anche a un modello aperto per contenere l’attacco. “Il mondo ha bisogno dell’Ai open source più che mai per difendersi”, ha affermato, chiedendo al tempo stesso più trasparenza e regole severe sulla segnalazione degli incidenti, fino alla condivisione delle tracce lasciate dagli agenti autonomi.

La corsa che nessuno vuole fermare

Sul tavolo del Consiglio di sicurezza delle Nazioni Unite, convocato dalla Francia, la discussione è andata però oltre il tema dell’accesso. Sam Altman, Dario Amodei e Yoshua Bengio sono arrivati alla stessa conclusione di fondo: la spinta verso sistemi sempre più potenti non può essere trattata come un fenomeno inevitabile, e la sicurezza non va sacrificata per inseguire la concorrenza.

Le divergenze iniziano subito dopo. Restano aperti i nodi su chi debba scrivere le regole, quanto margine lasciare alle imprese, quale ruolo attribuire ai governi e se sia davvero la potenza dei modelli il problema principale. Proprio su quest’ultimo punto Bengio e Delangue hanno occupato posizioni molto diverse, ma con un elemento comune: l’idea che non basti affidarsi alla sola buona volontà delle aziende.

Bengio alza il livello dell’allarme

Tra i quattro relatori, il più duro è stato Yoshua Bengio. Il ricercatore canadese, professore all’Università di Montréal, oggi guida anche il nuovo Independent International Scientific Panel on AI delle Nazioni Unite insieme a Maria Ressa. Nel 2018 ha ricevuto il Turing Award con Geoffrey Hinton e Yann LeCun per il lavoro decisivo sul deep learning, e nel 2025 ha fondato LawZero, una realtà non profit dedicata a sistemi controllabili fin dalla progettazione.

Al Palazzo di Vetro non ha usato mezzi termini: “I pericoli sono reali e imminenti”, ha detto, richiamando casi recenti in cui agenti di AI hanno ignorato istruzioni, occultato le proprie azioni o compiuto operazioni informatiche non desiderate in autonomia.

La sua critica si concentra sulla logica della competizione. Bengio sostiene che la corsa non sia una legge naturale, ma il risultato di scelte compiute dalle aziende. Per questo chiede un sistema di licenze per i modelli di frontiera, verifiche indipendenti prima dell’addestramento e della distribuzione pubblica, obblighi di notifica per gli incidenti e perfino una forma di assicurazione sulla responsabilità, sul modello di settori come medicina, aviazione ed energia nucleare.

Altman e Amodei cercano un equilibrio

Sam Altman non arriva alle stesse conclusioni, ma riconosce che in alcuni casi il ritmo può essere rallentato. Il fondatore di OpenAI si colloca a metà tra chi minimizza i rischi e chi prevede scenari catastrofici, ma sul fronte della sicurezza il messaggio è stato piuttosto diretto: OpenAI ha già scelto in passato di frenare e potrebbe farlo di nuovo.

Altman ha spiegato che non andrebbe addestrato un modello se non esistono prove solide della possibilità di mantenerlo sotto controllo umano. Inoltre, ha sostenuto che anche una probabilità ridotta di catastrofe non può essere trattata come un prezzo accettabile del progresso. La sua proposta, però, è meno centralizzata di quella di Bengio: standard tecnici condivisi tra Stati, criteri comuni per misurare capacità e rischi, canali rapidi di comunicazione sugli incidenti e strumenti sicuri di scambio informativo tra governi, aziende e infrastrutture critiche.

Dario Amodei, cofondatore e amministratore delegato di Anthropic, ha seguito una linea simile nella sostanza ma diversa nella forma. La società che guida è nata con una forte attenzione alla sicurezza dei modelli, e lui ha promesso che il ritmo sarà ridotto ogni volta che servirà a garantire tecnologie affidabili. Secondo Amodei, con l’andamento attuale in uno o due anni si potrebbe arrivare a una sorta di “nazione di geni racchiusa in un data center”, cioè milioni di specialisti sintetici capaci di lavorare molto più in fretta degli esseri umani.

Per Anthropic quella prospettiva potrebbe accelerare ricerca scientifica e crescita economica, ma anche aprire la strada a rischi enormi, dalla costruzione di armi biologiche alla perdita di controllo sui sistemi stessi. La sua idea somiglia a un regime di controllo degli armamenti costruito per gradi: un primo passo potrebbe essere il divieto di usare l’AI per sviluppare armi biologiche, accompagnato da meccanismi per verificare gli impegni dei Paesi, test comuni sui modelli e un sistema internazionale di notifica degli incidenti più gravi.

Un dibattito che sposta il baricentro

Il quadro complessivo mostra quanto il tema sia uscito dai laboratori e dalle autorità tecniche per entrare nella geopolitica. Il Consiglio di sicurezza aveva già discusso di intelligenza artificiale negli anni scorsi, ma questa volta il focus non era solo su disinformazione, armi autonome o cyberattacchi.

Al centro c’era anche una domanda ancora senza risposta: chi ha il diritto di decidere fin dove possa spingersi una tecnologia che diventa sempre più autonoma? È su questo terreno che si sono incontrati, pur con visioni differenti, Altman, Amodei, Bengio e Delangue.