AI sotto osservazione all’ONU: il fronte della sicurezza si spacca

Per Clément Delangue il nodo non è soltanto la potenza dei modelli, ma il divario che si apre tra chi li controlla e chi deve difendersi. Davanti al Consiglio di sicurezza dell’Onu, il cofondatore di Hugging Face ha sostenuto che l’aspetto più pericoloso dell’IA non è la forza in sé, bensì la sua distribuzione sbilanciata.

Da qui la sua richiesta: più trasparenza, obbligo di segnalare gli incidenti e condivisione delle tracce lasciate dagli agenti autonomi. Delangue ha ricordato anche l’attacco informatico subito da Hugging Face la scorsa estate, quando alcuni strumenti chiusi si sono rivelati poco utili nella risposta e l’azienda ha dovuto affidarsi pure a un modello aperto.

La paura comune è la corsa

Su un punto, però, i quattro relatori si sono ritrovati vicini. Sam Altman, Dario Amodei e Yoshua Bengio, pur partendo da sensibilità diverse, hanno riconosciuto che la competizione verso sistemi sempre più avanzati non può essere trattata come un fenomeno inevitabile. La sicurezza, nelle loro parole, non dovrebbe finire schiacciata dalla rincorsa industriale.

La riunione, convocata dalla Francia, si è svolta mentre il confronto sull’intelligenza artificiale si è ormai spostato dai laboratori alla geopolitica. Il Consiglio di sicurezza aveva già discusso il tema in passato, ma questa volta sul tavolo c’erano soprattutto la possibilità che gli strumenti diventino troppo autonomi da governare e la domanda su chi abbia titolo per fissare i limiti.

Bengio chiede regole dure

Tra gli interventi, quello di Bengio è apparso il più netto. Il ricercatore canadese, oggi alla guida di Mila e co-presidente del nuovo Independent International Scientific Panel on AI delle Nazioni Unite insieme a Maria Ressa, ha parlato senza attenuare i toni: “I pericoli sono reali e imminenti”, ha detto, citando casi recenti in cui agenti artificiali hanno aggirato istruzioni, nascosto azioni o compiuto operazioni informatiche non volute.

Per lui il problema nasce dalla logica della gara tra aziende. Bengio ha sostenuto che la corsa non sia affatto una legge naturale, ma il risultato di scelte precise delle imprese. Per questo propone licenze per i sistemi di frontiera, verifiche indipendenti prima dell’addestramento e del rilascio, obbligo di notifica per gli incidenti e una forma di assicurazione sulla responsabilità, con un modello vicino a quelli usati in medicina, aviazione ed energia nucleare.

Altman e Amodei scelgono una via meno rigida

Altman non spinge fino a un controllo diretto dei laboratori da parte di un’autorità mondiale, almeno non nell’immediato. Il fondatore di OpenAI ha detto che l’azienda ha già rallentato in passato e che potrebbe farlo di nuovo; secondo lui un modello non andrebbe addestrato se mancano prove solide sulla sua controllabilità. Ha anche avvertito che una probabilità, anche piccola, di catastrofe non può essere liquidata come prezzo normale dell’innovazione.

La sua proposta, però, resta più vicina a standard condivisi tra Stati, metriche comuni per misurare capacità e rischi, segnalazioni rapide degli incidenti e canali sicuri per lo scambio di informazioni tra governi, aziende e infrastrutture critiche. Su una linea simile si è mosso Dario Amodei, amministratore delegato di Anthropic, che ha promesso di rallentare quanto servirà per garantire la sicurezza dei sistemi.

Amodei ha descritto uno scenario in cui, mantenendo il ritmo attuale, in uno o due anni si potrebbero avere sistemi paragonabili a una “nazione di geni racchiusa in un data center”. Una prospettiva che, a suo giudizio, potrebbe accelerare ricerca e sviluppo, ma anche accrescere i rischi legati a armi biologiche e perdita di controllo. Per questo ha indicato un percorso graduale simile a un regime di controllo degli armamenti, con un primo passo concreto: vietare l’uso dell’IA per progettare armi biologiche, affiancando verifiche, test comuni e un sistema internazionale di notifica degli incidenti più gravi.

L’open source come difesa

Delangue, invece, ha insistito su un punto che ribalta il dibattito abituale: la vulnerabilità non nasce solo dall’esistenza di modelli potenti, ma dal fatto che il potere resti concentrato in poche mani, in poche aziende e in pochi Paesi. Per questo ha definito l’open source una risorsa essenziale per la difesa, non un elemento secondario.

Hugging Face, nata nel 2016, è diventata negli anni una sorta di GitHub dell’AI, dove sviluppatori e ricercatori condividono modelli, dataset e strumenti. Nella sua lettura, una risposta costruita soltanto attorno ai sistemi più chiusi non basta: servono regole più severe sulla denuncia degli incidenti e maggiore trasparenza, ma anche la possibilità di usare modelli aperti quando i meccanismi di protezione dei sistemi proprietari non bastano.