AI, il vero rischio non è la potenza: la sfida che divide Altman, Bengio e Delangue

Per Clément Delangue il nodo non è avere modelli sempre più forti, ma evitare che il vantaggio resti concentrato in poche mani. Dal palco del Consiglio di sicurezza delle Nazioni Unite, il numero uno di Hugging Face ha insistito sul fatto che la minaccia più seria nasce dallo squilibrio tra chi può colpire e chi deve difendersi, tra pochi soggetti dominanti e il resto del mercato.

Hugging Face, ha ricordato, ha già affrontato un attacco informatico condotto da agenti autonomi la scorsa estate. In quella fase, alcuni strumenti proprietari si sono rivelati poco utili perché i loro sistemi di protezione non distinguevano bene le operazioni difensive da quelle ostili; per reagire, l’azienda si è appoggiata anche a un modello open source. Da qui la sua conclusione: “Il mondo ha bisogno dell’Ai open source più che mai per difendersi”.

L’alleanza inattesa sul pericolo dell’AI

Su un punto, però, Sam Altman, Dario Amodei e Yoshua Bengio hanno parlato quasi con la stessa voce: la corsa verso sistemi più potenti non è una forza inevitabile, e la sicurezza non può essere sacrificata in nome della competizione. L’incontro a New York ha mostrato tre approcci diversi, ma anche una consapevolezza comune su quanto il tema sia ormai uscito dai laboratori per entrare nella sfera politica.

La riunione, promossa dalla Francia, è arrivata mentre il dibattito si è spostato dai tavoli tecnici a quelli geopolitici. Nel Consiglio di sicurezza il dossier AI era già comparso in passato, ma stavolta il focus era più ampio: non solo disinformazione, cyberattacchi o armi autonome, ma anche il rischio che sistemi sempre più indipendenti diventino difficili da governare.

Bengio spinge per licenze e controlli esterni

Tra i presenti, Bengio è stato quello che ha spostato più in là l’asticella del dibattito. Il ricercatore canadese, premiato con il Turing Award nel 2018 insieme a Geoffrey Hinton e Yann LeCun, guida Mila ed è oggi anche copresidente dell’Independent International Scientific Panel on AI dell’ONU. Nel 2025 ha dato vita a LawZero, organizzazione non profit pensata per sviluppare sistemi controllabili fin dall’origine.

Al Palazzo di Vetro non ha usato mezzi termini: “I pericoli sono reali e imminenti”, ha avvertito, richiamando episodi recenti in cui agenti di AI hanno aggirato istruzioni, nascosto azioni o avviato operazioni informatiche non autorizzate. Per lui il vero problema è la logica della rincorsa, alimentata dall’argomento secondo cui fermarsi significherebbe lasciare spazio ai concorrenti.

Bengio ha respinto questa giustificazione: “La corsa non è una legge di natura”. A suo avviso, dipende da scelte compiute dalle aziende. Da qui la richiesta di un sistema di licenze per i modelli di frontiera, di verifiche affidate a esperti indipendenti prima dell’addestramento e del rilascio, dell’obbligo di segnalare gli incidenti e perfino di una forma di assicurazione sulla responsabilità, sul modello di medicina, aviazione ed energia nucleare.

Altman e Amodei cercano un freno condiviso

Sam Altman non arriva alla stessa conclusione sulla struttura delle regole, ma ammette che in certi casi la velocità può e deve rallentare. Il fondatore di OpenAI si colloca a metà tra l’“ottimismo cieco” e il “doomerism”, cioè l’idea che l’arrivo di sistemi superiori all’uomo porti per forza a conseguenze catastrofiche.

Il suo messaggio, però, è netto: OpenAI ha già ridotto il ritmo in passato e potrebbe rifarlo. Un modello non dovrebbe essere addestrato, ha sostenuto, se mancano prove molto solide sulla possibilità di mantenerlo sotto controllo umano; persino una probabilità ridotta di catastrofe, per lui, non può essere trattata come un prezzo normale dell’innovazione. La strada che propone passa da standard tecnici comuni, misure condivise per valutare capacità e rischi, segnalazione rapida degli incidenti e canali sicuri di scambio tra governi, imprese e infrastrutture critiche.

Dario Amodei, cofondatore e amministratore delegato di Anthropic, si muove su una linea vicina. La società che guida, nata con un’attenzione marcata alla sicurezza, promette di rallentare quando necessario per proteggere le nuove tecnologie. Amodei ha anche prospettato uno scenario molto rapido: con il ritmo attuale, in uno o due anni si potrebbe arrivare a sistemi assimilabili a una “nazione di geni racchiusa in un data center”, cioè milioni di specialisti sintetici capaci di lavorare molto più in fretta degli esseri umani.

Quella prospettiva, secondo Anthropic, potrebbe accelerare ricerca e crescita economica, ma anche amplificare i rischi legati alle armi biologiche e alla perdita di controllo. Per questo Amodei vede più realistico un regime progressivo di controllo degli armamenti che una nuova autorità globale: partire, per esempio, da un divieto internazionale sull’uso dell’AI per sviluppare armi biologiche, insieme a strumenti di verifica, test comuni e un meccanismo internazionale per notificare gli incidenti più gravi.