AI all’Onu, il vero scontro è su chi deve controllarla

Il pericolo, per Clément Delangue, non è tanto avere sistemi estremamente potenti quanto lasciare che quel potere resti nelle mani di pochi. Il cofondatore e amministratore delegato di Hugging Face ha portato al Consiglio di sicurezza delle Nazioni Unite una critica netta alla concentrazione dell’intelligenza artificiale e ha chiesto regole più dure sulla comunicazione deg

La frattura che divide il settore

Delangue, francese e guida di una delle piattaforme più note dell’open source applicato all’AI, ha descritto una questione di squilibrio: chi può usare, difendere o attaccare con questi strumenti non ha oggi le stesse possibilità. Nel suo racconto pesa anche l’esperienza di Hugging Face durante un cyberattacco lo scorso anno, quando alcuni sistemi proprietari si sono rivelati poco utili perché incapaci di distinguere tra attività difensive e offensive.

In quel frangente, ha spiegato, il gruppo ha dovuto ricorrere anche a un modello aperto per reagire. Da qui la sua conclusione, sintetizzata in una formula molto diretta: il mondo ha bisogno dell’Ai open source più che mai per difendersi. La sua posizione si colloca lontano dall’idea che la risposta debba passare solo da pochi attori industriali o da barriere costruite attorno ai modelli più avanzati.

Bengio chiede licenze e verifiche indipendenti

Ancora più netto è stato Yoshua Bengio, che ha usato il suo intervento al Palazzo di Vetro per sostenere che la corsa all’AI non è un evento inevitabile, ma il risultato di scelte umane e aziendali. Il ricercatore canadese, tra le figure che hanno reso possibile il deep learning moderno e oggi alla guida di iniziative come Mila, ha parlato di rischi “reali e imminenti”, citando casi in cui agenti artificiali hanno aggirato istruzioni, nascosto azioni o eseguito operazioni informatiche non volute.

La sua proposta va oltre l’autoregolazione. Bengio vuole licenze per i sistemi di frontiera, valutazioni affidate a esperti indipendenti prima dell’addestramento e della diffusione al pubblico, l’obbligo di segnalare gli incidenti e persino un meccanismo assicurativo sulla responsabilità. Per spiegarsi, ha richiamato settori come medicina, aviazione ed energia nucleare: ambiti in cui l’impatto di una decisione non può dipendere solo da un numero ristretto di dirigenti in pochi Paesi.

Altman e Amodei: rallentare, ma senza una superautorità

Su un punto, però, Sam Altman e Dario Amodei non si sono chiamati fuori: se necessario, il ritmo può diminuire. Il fondatore di OpenAI ha ricordato che la sua azienda ha già frenato in passato e potrebbe farlo di nuovo, aggiungendo che un modello non dovrebbe essere addestrato senza prove solide della possibilità di mantenerlo sotto controllo umano. Per Altman, anche una probabilità limitata di una catastrofe non può essere trattata come un prezzo accettabile del progresso.

La sua proposta, tuttavia, resta diversa da quella di Bengio. Altman immagina standard tecnici condivisi tra Stati, metodi comuni per misurare capacità e rischi, canali rapidi per segnalare incidenti e strumenti sicuri di scambio di informazioni tra governi, imprese e infrastrutture critiche. Non mette al centro, almeno per ora, un’autorità globale che vigili direttamente sui laboratori.

Anche Amodei, cofondatore e amministratore delegato di Anthropic, ha assicurato che l’azienda rallenterà quanto necessario per mantenere elevato il livello di sicurezza. A suo avviso, con il ritmo attuale, tra uno o due anni si potrebbe arrivare a sistemi paragonabili a una “nazione di geni racchiusa in un data center”, cioè milioni di specialisti sintetici capaci di lavorare molto più velocemente degli esseri umani. Una prospettiva che, per Anthropic, può accelerare ricerca e crescita, ma anche accrescere i rischi legati ad armi biologiche e perdita di controllo.

Il Consiglio di sicurezza entra nel dibattito globale

L’incontro convocato dalla Francia mostra quanto il tema sia ormai uscito dai laboratori per arrivare nei luoghi della geopolitica. Il Consiglio di sicurezza aveva già affrontato l’argomento in passato, ma questa volta al centro non c’erano soltanto disinformazione, cyberattacchi o armi autonome: la discussione ha riguardato soprattutto sistemi sempre più indipendenti e la domanda su chi debba fissare i limiti del loro sviluppo.

Su questo sfondo, per la prima volta nello stesso spazio istituzionale, sono emerse posizioni vicine ma non sovrapponibili. OpenAI e Anthropic hanno ammesso la possibilità di rallentare, Bengio ha invocato licenze e controlli esterni, mentre Delangue ha spostato l’attenzione sul rischio di una tecnologia troppo concentrata. Il risultato è un fronte comune solo in parte: tutti chiedono cautela, ma ciascuno immagina un modo diverso per garantirla.