AI all’ONU, la vera frattura è su chi controlla la potenza

Per Clément Delangue il punto più delicato non è la forza dei modelli, ma il divario che quella forza può creare. Il cofondatore e amministratore delegato di Hugging Face ha sostenuto davanti al Consiglio di sicurezza dell’Onu che la minaccia più seria nasce quando l’intelligenza artificiale avanzata resta nelle mani di pochi, mentre chi deve difendersi dispone di strumenti molto più deboli.

L’asimmetria pesa più della potenza

Delangue ha richiamato anche un episodio vissuto direttamente dalla sua azienda: lo scorso anno Hugging Face ha subito un attacco informatico condotto da agenti autonomi. Nella fase di risposta, ha spiegato, alcuni sistemi proprietari non si sono rivelati adeguati perché i loro filtri di sicurezza non distinguevano bene le attività dei difensori da quelle degli aggressori.

Per reagire, la società si è appoggiata anche a un modello aperto. Da qui la sua conclusione, riassunta in una frase netta: "Il mondo ha bisogno dell’Ai open source più che mai per difendersi". Accanto alla richiesta di più trasparenza e di una segnalazione obbligatoria degli incidenti, Delangue ha avvertito che puntare soltanto sul contenimento dei modelli più chiusi non basta.

Un fronte comune, ma non la stessa ricetta

Su un punto, però, i relatori si sono ritrovati vicini. Sam Altman, Dario Amodei e Yoshua Bengio hanno riconosciuto che la corsa verso sistemi sempre più potenti non può essere trattata come un processo inevitabile e incontrollabile, e che la sicurezza non va sacrificata in nome della competizione.

Le differenze arrivano subito dopo. Ciascuno immagina un modo diverso per gestire il problema: più standard condivisi, un quadro internazionale di controlli, oppure un ruolo più forte per l’open source. Ed è proprio questa distanza a definire il dibattito andato in scena nel Palazzo di Vetro.

Bengio alza il livello dell’allarme

Tra i quattro interventi, quello di Yoshua Bengio è stato il più duro. Il ricercatore canadese, professore all’Università di Montréal, ha detto che i rischi sono "reali e imminenti" e ha richiamato casi recenti di agenti capaci di aggirare istruzioni, nascondere azioni o compiere operazioni informatiche non volute.

Bengio, che nel 2018 ha condiviso il Turing Award con Geoffrey Hinton e Yann LeCun, oggi guida Mila ed è co-presidente con Maria Ressa del nuovo Independent International Scientific Panel on AI delle Nazioni Unite. Nel 2025 ha anche dato vita a LawZero, realtà non profit pensata per sviluppare sistemi controllabili fin dalla progettazione.

Le regole che chiede il fondatore di Mila

Il suo bersaglio è la logica della gara continua tra aziende. Secondo Bengio, non si tratta di una legge naturale ma del risultato di scelte industriali, perciò può essere corretta. La sua proposta prevede licenze per i sistemi di frontiera, verifiche affidate a esperti indipendenti prima dell’addestramento e della distribuzione, obbligo di riportare gli incidenti e una copertura assicurativa sulla responsabilità, sul modello di settori come medicina, aviazione ed energia nucleare.

Il messaggio politico è chiaro: decisioni con effetti sul futuro collettivo non dovrebbero dipendere da un pugno di dirigenti e da pochi Paesi. Altman e Amodei non arrivano a chiedere tanto, ma ammettono che in certi casi la velocità può essere ridotta.

Altman e Amodei cercano un freno condiviso

Sam Altman ha collocato la discussione tra l’ottimismo ingenuo e il catastrofismo, respingendo l’idea che ogni salto tecnologico debba per forza sfociare in scenari distruttivi. Allo stesso tempo ha ricordato che OpenAI ha già rallentato in modo autonomo in passato e potrebbe farlo di nuovo.

Per il fondatore di OpenAI un modello non andrebbe addestrato senza prove molto solide della sua capacità di restare sotto controllo umano. Anche una probabilità bassa di catastrofe, ha osservato, non può essere considerata un prezzo accettabile del progresso. La sua linea, però, punta su standard tecnici comuni tra Stati, metriche condivise per valutare capacità e rischi, procedure rapide per segnalare gli incidenti e canali sicuri di scambio tra governi, aziende e infrastrutture critiche, non su un’autorità mondiale che comandi direttamente i laboratori.

Dario Amodei, numero uno di Anthropic, ha adottato un’impostazione vicina ma non identica. La società che sviluppa Claude è nata con forte attenzione alla sicurezza e il suo amministratore delegato ha promesso che Anthropic rallenterà quanto servirà per garantire tecnologie affidabili. Amodei ritiene che, continuando con il ritmo attuale, nel giro di uno o due anni possano emergere sistemi simili a una "nazione di geni racchiusa in un data center": milioni di specialisti sintetici capaci di lavorare molto più in fretta degli esseri umani.

Per lui il quadro potrebbe portare benefici enormi alla ricerca e alla crescita economica, ma anche rischi amplificati, dalle armi biologiche alla perdita di controllo sui sistemi stessi. La sua proposta somiglia a un controllo graduale degli armamenti: prima di tutto un divieto all’uso dell’AI per sviluppare armi biologiche, poi strumenti di verifica degli impegni presi dai singoli Paesi, regole comuni per testare i modelli e un meccanismo internazionale per notificare gli incidenti più gravi.

Dalla geopolitica ai laboratori

La riunione convocata dalla Francia arriva in un momento in cui il tema dell’intelligenza artificiale è uscito dai laboratori e dagli organismi tecnici per finire stabilmente nella sfera geopolitica. Il Consiglio di sicurezza aveva già affrontato l’argomento negli anni passati, ma questa volta il centro della discussione non era soltanto il rischio di disinformazione, di armi autonome o di attacchi cyber.

Sul tavolo c’era anche un’altra domanda, ancora senza risposta: fino a dove si possa spingere lo sviluppo di sistemi sempre più autonomi e chi abbia davvero il diritto di stabilire il limite.