AI, il fronte si spacca all’ONU: sicurezza o accesso

Clément Delangue avverte che il nodo più insidioso non è soltanto la potenza dei sistemi, ma il divario tra chi può usarli e chi resta esposto. Per il fondatore di Hugging Face, il punto centrale è che l’intelligenza artificiale più avanzata non può diventare un vantaggio concentrato in poche mani.

Da qui la sua richiesta: più trasparenza sugli incidenti, tracciabilità delle azioni compiute dagli agenti autonomi e una risposta che non ruoti solo attorno al contenimento dei modelli più chiusi. Durante un attacco informatico vissuto da Hugging Face la scorsa estate, ha spiegato, alcuni strumenti proprietari non erano utili a causa dei loro sistemi di difesa; in quella fase è stato un modello aperto ad aiutare la reazione.

Un allarme condiviso, ma non una ricetta unica

Sam Altman, Dario Amodei e Yoshua Bengio si sono ritrovati fianco a fianco al Consiglio di sicurezza delle Nazioni Unite con un messaggio comune: la corsa verso sistemi sempre più potenti non va trattata come se fosse inevitabile, e la sicurezza non può essere messa in secondo piano rispetto alla competizione.

L’intesa, però, finisce lì. Su chi debba fissare i limiti, su quanta libertà lasciare alle imprese e su quanto debba intervenire la politica, le differenze restano nette. A cambiare le coordinate del dibattito è stato proprio il confronto convocato dalla Francia, in un momento in cui il tema si è spostato dai laboratori ai tavoli della geopolitica.

Bengio chiede regole strette

Tra i relatori, Yoshua Bengio è quello che ha mostrato il taglio più duro. Il professore canadese, premio Turing nel 2018 con Geoffrey Hinton e Yann LeCun, guida Mila e oggi copresiede con Maria Ressa l’Independent International Scientific Panel on AI delle Nazioni Unite; nel 2025 ha anche fondato LawZero, una struttura non profit orientata a sistemi controllabili fin dalla progettazione.

Al Palazzo di Vetro non ha scelto toni misurati. Ha sostenuto che i rischi sono già concreti e ravvicinati, citando casi in cui agenti di AI hanno aggirato istruzioni, nascosto le proprie azioni o agito da soli in ambito informatico. La sua critica punta soprattutto alla logica dell’accelerazione continua: per Bengio la corsa non è un fatto naturale, ma il frutto di decisioni industriali.

Da qui la proposta di sottoporre i modelli di frontiera a licenze, controlli indipendenti prima dell’addestramento e della diffusione, obblighi di segnalazione degli incidenti e meccanismi assicurativi sulla responsabilità. Il paragone, ha spiegato, è con settori come medicina, aviazione ed energia nucleare.

Altman e Amodei restano più prudenti

Altman e Amodei non arrivano a chiedere un impianto così rigido, ma entrambi ammettono che in alcuni casi la velocità può essere ridotta. Il fondatore di OpenAI si colloca tra l’ottimismo cieco e il doomerism, la visione secondo cui l’arrivo di sistemi superiori all’uomo porterebbe per forza a scenari catastrofici.

Il suo messaggio, comunque, è netto: OpenAI in passato ha già rallentato da sola e potrebbe farlo ancora. Un modello, ha sostenuto, non dovrebbe essere addestrato se non esistono prove solide della sua controllabilità; e anche una probabilità ridotta di catastrofe non può diventare il prezzo normale dell’innovazione.

La sua linea resta però diversa da quella di Bengio: standard tecnici comuni tra Stati, criteri condivisi per misurare capacità e pericoli, segnalazione rapida degli incidenti e canali sicuri di scambio tra governi, aziende e infrastrutture critiche. Non, almeno per il momento, un’autorità unica che governi direttamente i laboratori.

Anche Dario Amodei, a capo di Anthropic e cofondatore della società che sviluppa Claude, ha assicurato che si rallenterà quando servirà per garantire la sicurezza delle nuove tecnologie. La sua previsione è ambiziosa: mantenendo il ritmo attuale, in uno o due anni si potrebbe arrivare a una “nazione di geni racchiusa in un data center”, cioè a milioni di specialisti sintetici capaci di lavorare a una velocità molto superiore a quella umana.

Per Anthropic, uno scenario simile potrebbe spingere ricerca scientifica e crescita economica, ma anche amplificare minacce come la costruzione di armi biologiche o la perdita di controllo sui sistemi stessi. La sua proposta assomiglia a un controllo degli armamenti costruito passo dopo passo: partire dal divieto di usare l’AI per sviluppare armi biologiche, poi introdurre strumenti di verifica, standard comuni per i test e un meccanismo internazionale per notificare gli incidenti più gravi.

Il fronte dell’open source alza la voce

A differenza di Altman e Amodei, Delangue insiste su un altro rischio: non soltanto chi crea i modelli, ma chi viene messo nelle condizioni di difendersi. Per il CEO di Hugging Face, l’asimmetria tra pochi grandi attori e il resto del mondo è il vero problema, più ancora della potenza in sé.

La sua conclusione è chiara: l’intelligenza artificiale open source serve oggi più che mai per rispondere agli attacchi e bilanciare il vantaggio dei sistemi chiusi. Anche qui, però, la richiesta non è di lasciare tutto senza regole: servono comunicazioni obbligatorie sugli incidenti e maggiore apertura sulle tracce lasciate dagli agenti autonomi.

Dal laboratorio alla geopolitica

Il vertice al Consiglio di sicurezza arriva dopo un cambio di fase evidente. Il dibattito sull’AI non riguarda più solo disinformazione, cyberattacchi o armi autonome: ora sul tavolo c’è anche il timore che sistemi sempre più indipendenti diventino difficili da governare, insieme alla domanda su chi abbia il diritto di decidere fin dove spingersi.

È in questo scenario che i quattro interventi finiscono per intrecciarsi e divergere allo stesso tempo. Tutti riconoscono il rischio, ma ciascuno indica un rimedio diverso: Bengio chiede regole forti e licenze, Altman punta su standard internazionali e controlli condivisi, Amodei immagina un regime di contenimento progressivo, mentre Delangue difende l’idea che l’apertura dei modelli resti parte essenziale della soluzione.