AI sotto accusa all’ONU: la vera minaccia è chi decide le regole

L’idea che il rischio maggiore sia semplicemente avere sistemi più potenti viene contestata apertamente da Clément Delangue. Per il cofondatore di Hugging Face, il problema decisivo è un altro: la concentrazione della potenza in poche mani, poche aziende e pochi Paesi, con un divario che può rendere più difficile difendersi da abusi e attacchi.

Da qui il richiamo a un fronte più aperto e trasparente. Delangue sostiene che l’intelligenza artificiale open source serva oggi più che mai e chiede regole più severe sulla segnalazione degli incidenti, oltre alla condivisione delle tracce lasciate dagli agenti autonomi. L’esperienza vissuta da Hugging Face durante un cyberattacco attribuito a sistemi autonomi lo ha convinto, ha spiegato, che in certi casi i modelli proprietari non bastano a reagire con efficacia.

La corsa non è inevitabile

Sul tavolo del Consiglio di sicurezza delle Nazioni Unite, convocato dalla Francia, la questione dell’AI è ormai entrata nel terreno della geopolitica. Non si discute più soltanto di disinformazione, armi autonome o intrusioni informatiche: al centro c’è anche la possibilità che sistemi sempre più autonomi sfuggano al controllo umano, e resta aperto il nodo di chi debba decidere fin dove spingersi.

Su un punto, però, le distanze si riducono. Sam Altman, Dario Amodei e Yoshua Bengio, pur partendo da posizioni diverse, convergono sull’idea che l’accelerazione non sia una fatalità e che la sicurezza non possa essere sacrificata in nome della competizione. Bengio lo ha sintetizzato con un avvertimento netto: la spinta a correre non è una legge naturale, ma la conseguenza di scelte industriali e politiche.

Bengio vuole licenze e controlli

Il tono più severo è stato proprio quello di Yoshua Bengio. Il professore dell’Università di Montréal, vincitore del Turing Award nel 2018 insieme a Geoffrey Hinton e Yann LeCun, guida il centro Mila ed è oggi alla testa, insieme a Maria Ressa, del nuovo Independent International Scientific Panel on AI delle Nazioni Unite. Nel 2025 ha anche fondato LawZero, una realtà non profit pensata per sviluppare sistemi controllabili fin dall’origine.

Davanti al Palazzo di Vetro, Bengio ha sostenuto che i “pericoli sono reali e imminenti”, richiamando episodi recenti in cui agenti di intelligenza artificiale avrebbero aggirato istruzioni, nascosto operazioni o eseguito azioni informatiche non volute. Per questo propone un quadro più rigido: licenze per i modelli di frontiera, verifiche affidate a esperti indipendenti prima dell’addestramento e della diffusione, obbligo di segnalare gli incidenti e persino forme di assicurazione sulla responsabilità, sul modello di settori come medicina, aviazione ed energia nucleare.

Altman e Amodei cercano un freno condiviso

Sam Altman non invoca un’autorità globale che controlli direttamente i laboratori, almeno per ora. Il fondatore di OpenAI ha spiegato che l’azienda ha già deciso in passato di rallentare da sola e potrebbe farlo di nuovo, ma ha anche chiarito che un modello non dovrebbe essere addestrato senza prove solide della sua controllabilità. Per lui, anche una piccola probabilità di catastrofe non può essere archiviata come prezzo inevitabile del progresso.

La sua proposta punta su standard tecnici comuni tra Stati, strumenti condivisi per misurare capacità e rischi, notifica rapida degli incidenti e canali sicuri di scambio tra governi, imprese e infrastrutture critiche. Dario Amodei, cofondatore e amministratore delegato di Anthropic, ragiona in modo simile: anche lui dice che si rallenterà quando necessario, ma immagina un percorso più vicino a un controllo progressivo degli armamenti che a una nuova struttura sovranazionale.

Amodei ha avvertito che, mantenendo il ritmo attuale, in uno o due anni potrebbero comparire sistemi paragonabili a una “nazione di geni racchiusa in un data center”. Una prospettiva che, secondo Anthropic, può accelerare ricerca e crescita economica, ma anche amplificare il rischio di armi biologiche e di perdita di controllo sui modelli stessi. Per questo propone un primo accordo molto concreto: vietare l’uso dell’AI per sviluppare armi biologiche, affiancando al divieto meccanismi di verifica, test comuni e un sistema internazionale per notificare gli incidenti più gravi.

Il Palazzo di Vetro cambia linguaggio

La riunione conferma quanto il dibattito si sia spostato lontano dai soli laboratori. Oggi l’AI viene letta come una questione di sicurezza internazionale, non più soltanto come un capitolo tecnico o industriale. Anche le differenze tra i relatori restano importanti: c’è chi chiede regole per le aziende, chi punta su accordi tra governi e chi teme soprattutto lo squilibrio nell’accesso alla tecnologia.

Dentro questo scenario, la convergenza minima è già significativa. Nessuno dei quattro relatori presenti a New York considera più sostenibile l’idea di una corsa senza vincoli. E il punto di partenza del confronto, al Consiglio di sicurezza, è proprio la necessità di evitare che la potenza dell’AI diventi un fattore impossibile da governare.