AI al bivio all’Onu: divergenze tra Altman, Bengio e Amodei

La partita sull’intelligenza artificiale si sposta sempre più sul terreno politico e geopolitico, e all’Onu i protagonisti del settore hanno mostrato una convergenza solo parziale. Sam Altman, Dario Amodei e Yoshua Bengio hanno riconosciuto che la corsa ai sistemi più avanzati non può procedere senza limiti, ma ciascuno immagina un modello di controllo diverso.

Accanto a loro, Clément Delangue ha portato la tesi più inattesa: il problema, secondo il fondatore di Hugging Face, non è soltanto la potenza dei modelli, ma il fatto che quella potenza resti nelle mani di pochi. Sullo sfondo c’è la riunione convocata dalla Francia al Consiglio di sicurezza delle Nazioni Unite, dove il tema è ormai uscito dai laboratori per entrare nell’agenda della sicurezza internazionale.

La sicurezza non basta più come slogan

Bengio è stato il più netto nel descrivere i rischi. Il ricercatore canadese, tra i padri del deep learning e oggi alla guida del nuovo Independent International Scientific Panel on AI dell’Onu insieme a Maria Ressa, ha sostenuto che i pericoli legati ai sistemi di frontiera sono già concreti. Ha ricordato episodi in cui agenti di AI hanno aggirato istruzioni, nascosto azioni o svolto in autonomia operazioni informatiche indesiderate.

Per questo chiede un impianto più rigido: licenze per i modelli più avanzati, controlli indipendenti prima dell’addestramento e della diffusione, obbligo di segnalare gli incidenti e una copertura assicurativa sulla responsabilità. Il paragone, ha spiegato, è con settori come medicina, aviazione ed energia nucleare. E soprattutto, ha ribadito che la “corsa” non è una forza inevitabile, ma il risultato di scelte compiute dalle aziende.

Altman non è arrivato a proporre un controllo diretto dei laboratori, ma ha ammesso che in certi casi il ritmo può rallentare. Il numero uno di OpenAI ha detto che la sua società ha già frenato in passato e potrebbe farlo ancora, aggiungendo che un modello non andrebbe addestrato se non ci sono prove molto solide della possibilità di mantenerlo sotto controllo umano. Per lui, anche una probabilità ridotta di catastrofe non può essere trattata come prezzo normale dell’innovazione.

Tre ricette diverse per lo stesso rischio

La linea di Altman resta però più prudente sul fronte istituzionale. Il suo obiettivo è costruire standard tecnici comuni tra Paesi, metodi condivisi per misurare capacità e rischi, canali rapidi per la comunicazione degli incidenti e strumenti sicuri di scambio tra governi, imprese e infrastrutture critiche. In questa visione, almeno per ora, non c’è spazio per una autorità mondiale che controlli direttamente i laboratori.

Amodei, cofondatore e amministratore delegato di Anthropic, si colloca in una posizione intermedia. Ha promesso che Anthropic rallenterà quanto necessario per mantenere sotto controllo le tecnologie in sviluppo, ma ha anche avvertito che, con il ritmo attuale, nel giro di uno o due anni si potrebbero vedere sistemi paragonabili a una “nazione di geni racchiusa in un data center”. Una potenza che potrebbe accelerare ricerca e crescita, ma anche aumentare i rischi di armi biologiche e perdita di controllo.

La sua proposta assomiglia più a un regime internazionale di contenimento, costruito per gradi, che a un organismo unico sovranazionale. Il primo passo, secondo Amodei, potrebbe essere il divieto di usare l’AI per sviluppare armi biologiche, affiancato da meccanismi di verifica, test comuni e notifica degli incidenti gravi.

Open source contro potere concentrato

Delangue ha spostato il fuoco su un’altra criticità. Fondatore e amministratore delegato di Hugging Face, piattaforma che dal 2016 è diventata un punto di riferimento per modelli, dataset e strumenti condivisi, ha sostenuto che il vero pericolo è l’asimmetria. Non conta solo quanto un sistema sia potente, ma chi lo possiede e chi può difendersi.

Per spiegare il punto ha richiamato un cyberattacco affrontato la scorsa estate dalla sua azienda. In quella fase, alcuni sistemi proprietari non sono stati utili perché i loro meccanismi di sicurezza non distinguevo bene tra attività difensive e azioni ostili. Hugging Face ha finito per affidarsi anche a un modello aperto per reagire all’attacco.

Da qui la sua conclusione: il mondo, a suo giudizio, ha bisogno dell’AI open source più che mai per difendersi. Anche lui invoca più trasparenza, regole severe sulla comunicazione degli incidenti e condivisione delle tracce lasciate dagli agenti autonomi. Ma avverte che una risposta basata solo sul controllo dei modelli più potenti rischierebbe di lasciare scoperto proprio chi, di fronte a quei modelli, deve proteggersi.