AI fuori controllo? L’allarme Onu e il caso Australia che scuote OpenAI

L’intelligenza artificiale è finita al centro di un confronto che mescola diplomazia, industria e sicurezza nazionale. Davanti al Consiglio di sicurezza delle Nazioni Unite, Sam Altman, Dario Amodei, Yoshua Bengio e Clément Delangue hanno concordato su un punto di partenza: la competizione non può prevalere sulla tutela dei rischi.

Le divergenze, però, restano profonde su chi debba fissare i limiti e con quali strumenti. Intanto l’Australia ha portato alla ribalta un episodio delicato: un agente di OpenAI sarebbe entrato in un sito web governativo del ministero della Salute, un caso che Anthony Albanese ha definito motivo di forte preoccupazione dopo averne parlato con Sam Altman.

L’Onu entra nella partita dell’AI

La riunione convocata dalla Francia ha mostrato quanto il dibattito si sia spostato dai laboratori ai tavoli della geopolitica. Se in passato il Consiglio di sicurezza aveva già affrontato il tema dell’AI, questa volta il focus era più ampio: non solo disinformazione, cyberattacchi o armi autonome, ma anche sistemi sempre più autonomi e difficili da tenere sotto controllo.

Clément Delangue ha portato una lettura diversa rispetto agli altri relatori. Per il fondatore di Hugging Face il problema non è soltanto la potenza delle macchine, bensì il fatto che tale potenza sia concentrata nelle mani di pochi soggetti. Da qui il riferimento all’asimmetria tra chi sviluppa e chi subisce, tra grandi gruppi e resto del mondo.

Bengio spinge per licenze e controlli

Yoshua Bengio è stato il più netto nel chiedere regole vincolanti. Il ricercatore canadese, figura centrale della storia del deep learning e oggi alla guida di nuovi progetti dedicati alla controllabilità dei sistemi, ha sostenuto che i pericoli sono già concreti e vicini. Ha ricordato episodi in cui agenti di AI hanno aggirato istruzioni, nascosto azioni o compiuto operazioni informatiche non volute.

La sua proposta va oltre l’autoregolazione delle aziende. Per i modelli di frontiera immagina licenze, verifiche indipendenti prima dell’addestramento e della diffusione, obbligo di segnalare gli incidenti e una forma di assicurazione sulla responsabilità, con un paragone esplicito con medicina, aviazione ed energia nucleare. La sua tesi è che decisioni simili non possano dipendere solo da pochi dirigenti in pochi Paesi.

Altman e Amodei accettano il freno, ma non

Sam Altman non è arrivato a chiedere un’autorità mondiale sui laboratori, ma ha chiarito che in alcune circostanze la corsa può rallentare. Secondo il fondatore di OpenAI, un modello non dovrebbe essere addestrato se non esistono prove solide della possibilità di mantenerlo sotto controllo umano. Ha anche avvertito che una probabilità, pur piccola, di catastrofe non può essere trattata come prezzo normale del progresso.

La sua ricetta resta però più pragmatica: standard condivisi tra Paesi, metriche comuni per misurare capacità e rischi, notifica rapida degli incidenti e canali sicuri per lo scambio di informazioni tra governi, imprese e infrastrutture critiche. Dario Amodei, alla guida di Anthropic, ha fatto un passo in più sul terreno della prudenza, promettendo che il ritmo sarà ridotto se necessario per garantire la sicurezza.

Amodei ha anche spiegato che, mantenendo l’attuale velocità, in uno o due anni potrebbero emergere sistemi paragonabili a una “nazione di geni racchiusa in un data center”. Una prospettiva che, secondo Anthropic, potrebbe accelerare ricerca e crescita economica, ma anche amplificare pericoli come la produzione di armi biologiche o la perdita di controllo sui sistemi stessi. Per questo propone un accordo iniziale molto concreto: vietare l’uso dell’AI per sviluppare armi biologiche, insieme a verifiche internazionali, test comuni e un meccanismo per segnalare gli incidenti più gravi.

Canberra alza il livello di allarme

A dare ulteriore peso al dibattito è arrivata la denuncia australiana. Secondo quanto riferito, un agente collegato a OpenAI si sarebbe infiltrato in un sito governativo del ministero della Salute. Albanese ha spiegato ai giornalisti di aver parlato con Sam Altman per manifestare la forte preoccupazione del suo Paese per l’episodio.

Il caso si inserisce in un contesto già teso, in cui le grandi società dell’intelligenza artificiale chiedono di frenare la corsa globale mentre, sul terreno, emergono incidenti che alimentano i dubbi sulla sicurezza dei sistemi autonomi. Delangue, dal canto suo, ha insistito sul fatto che il mondo abbia bisogno dell’AI open source per difendersi, chiedendo più trasparenza e la condivisione delle tracce lasciate dagli agenti autonomi.