AI, unite le voci dei big all’ONU: ma la vera frattura è sulle regole

Davanti al Consiglio di sicurezza dell’ONU, i protagonisti dell’intelligenza artificiale hanno mostrato un inedito punto di contatto: la corsa ai modelli più avanzati non può essere lasciata senza freni. Sam Altman, Dario Amodei, Yoshua Bengio e Clément Delangue sono arrivati alla stessa riunione con idee molto diverse, ma tutti hanno riconosciuto che la sicurezza non può essere messa in secondo piano rispetto alla competizione.

La convergenza che non basta

La riunione, convocata dalla Francia, segna un passaggio importante anche nel modo in cui il tema viene trattato. Il dibattito si è ormai spostato dai laboratori alla politica internazionale, e al centro non ci sono più soltanto disinformazione, attacchi informatici o armi autonome: pesa soprattutto la domanda su chi debba decidere fin dove possano spingersi i sistemi di AI.

È qui che le differenze tornano evidenti. Bengio, in particolare, ha assunto la linea più dura: per lui i rischi sono concreti e vicini, tanto che ha chiesto licenze per i modelli di frontiera, controlli indipendenti prima dell’addestramento e della diffusione, obblighi di segnalazione degli incidenti e perfino una forma di assicurazione sulla responsabilità.

Lo scienziato canadese, oggi tra le voci più severe del settore che ha contribuito a creare, ha insistito sul fatto che la corsa non sia affatto inevitabile. A suo giudizio, si tratta invece di una scelta compiuta dalle aziende, che possono decidere di rallentare. Per questo ha sostenuto che decisioni con effetti globali non dovrebbero restare nelle mani di pochi dirigenti in pochi Paesi.

Bengio alza il livello dell’allarme

Nel suo intervento Bengio ha citato episodi recenti in cui agenti di intelligenza artificiale hanno ignorato istruzioni, nascosto attività o eseguito operazioni informatiche indesiderate. Da qui il suo avvertimento: “I pericoli sono reali e imminenti”.

La sua posizione si lega anche al lavoro che oggi porta avanti fuori dall’università e dalla ricerca accademica. Dopo il Turing Award ricevuto nel 2018 insieme a Geoffrey Hinton e Yann LeCun, Bengio ha fondato Mila ed è arrivato a copresiedere, con Maria Ressa, il nuovo Independent International Scientific Panel on AI delle Nazioni Unite. Nel 2025 ha inoltre creato LawZero, organizzazione non profit orientata a sistemi controllabili fin dall’origine.

Altman e Amodei hanno scelto toni meno radicali, ma entrambi hanno ammesso che in alcune fasi la corsa può rallentare. Il fondatore di OpenAI ha ricordato che la sua azienda ha già fermato da sola alcune attività e potrebbe farlo ancora. Ha spiegato che un modello non dovrebbe essere addestrato senza prove solide della possibilità di mantenerlo sotto controllo umano, aggiungendo che anche un rischio piccolo di catastrofe non può essere trattato come un normale prezzo dell’innovazione.

Le proposte di Altman e Amodei

Altman, però, non chiede un’autorità mondiale che governi direttamente i laboratori. La sua idea punta piuttosto su standard tecnici condivisi tra Stati, strumenti comuni per misurare capacità e pericoli, canali rapidi per la segnalazione degli incidenti e vie sicure di scambio informativo tra governi, imprese e infrastrutture critiche.

Amodei, cofondatore e amministratore delegato di Anthropic, si muove su una linea simile. La sua azienda, che sviluppa Claude, nasce con una forte attenzione alla sicurezza e il manager ha ribadito che si rallenterà quanto necessario per proteggere le nuove tecnologie. Ha anche tracciato uno scenario molto spinto: in uno o due anni, mantenendo l’attuale ritmo, si potrebbero avere sistemi paragonabili a una “nazione di geni racchiusa in un data center”.

Secondo Amodei, una simile potenza potrebbe accelerare ricerca scientifica e crescita economica, ma anche aumentare i pericoli, dalla produzione di armi biologiche alla perdita di controllo dei sistemi stessi. Per questo propone un percorso graduale, più vicino a un regime di controllo degli armamenti che a un organismo globale unico: il primo passo, ha suggerito, potrebbe essere un accordo internazionale per vietare l’uso dell’AI nello sviluppo di armi biologiche, affiancato da verifiche sugli impegni dei Paesi, standard comuni di test e un meccanismo per notificare gli incidenti più gravi.

Delangue sposta il focus sull’asimmetria

La posizione più dissonante è arrivata da Clément Delangue, fondatore e ad di Hugging Face. La sua tesi rovescia in parte l’impostazione dominante: il pericolo principale, ha detto, non è l’esistenza di un’AI molto potente, ma la distribuzione squilibrata di quella potenza.

Delangue ha richiamato il cyberattacco subito la scorsa estate da agenti autonomi, durante il quale alcuni sistemi proprietari non erano utilizzabili in modo efficace perché i loro meccanismi di sicurezza non distinguevano bene tra operazioni difensive e offensive. In quella fase, Hugging Face ha potuto contare anche su un modello aperto per reagire all’attacco.

Da qui il suo richiamo: “Il mondo ha bisogno dell’Ai open source più che mai per difendersi”. Anche lui vuole regole più stringenti sulla segnalazione degli incidenti e una maggiore trasparenza, fino alla condivisione delle tracce lasciate dagli agenti autonomi. Ma avverte che una risposta costruita solo intorno al controllo dei modelli più avanzati rischia di lasciare scoperto il problema della disparità tra chi possiede gli strumenti e chi deve difendersi.