AI sotto pressione all’ONU: Altman, Bengio e Amodei chiedono regole

Prima ancora del dibattito sulle soglie di rischio, a colpire è la frattura su chi debba governare la tecnologia. A New York, davanti al Consiglio di sicurezza delle Nazioni Unite, Sam Altman, Dario Amodei e Yoshua Bengio hanno mostrato un inatteso punto di contatto: la corsa verso modelli sempre più potenti non può essere lasciata alla sola dinamica della competizione.

La potenza non basta a rassicurare

Clément Delangue ha spostato l’attenzione su un altro nodo: il pericolo maggiore, a suo avviso, non è l’esistenza di sistemi avanzati, ma il fatto che il loro potere resti concentrato in poche mani. Il fondatore di Hugging Face ha insistito sull’asimmetria tra chi può colpire e chi deve difendersi, tra pochi colossi e il resto del mondo.

Il suo ragionamento arriva da un episodio concreto vissuto dalla sua società, coinvolta la scorsa estate in un attacco informatico orchestrato da agenti autonomi. In quella fase, ha spiegato, alcuni strumenti proprietari si sono rivelati poco utili perché non distinguevano in modo affidabile l’attività di un difensore da quella di un aggressore. Per reagire, Hugging Face si è appoggiata anche a un modello aperto.

Bengio alza il livello dell’allarme

Tra i relatori, è stato Yoshua Bengio a usare il tono più netto. Il ricercatore canadese, tra i nomi che hanno plasmato il deep learning, oggi guida nuove iniziative internazionali e nel 2025 ha dato vita a LawZero, realtà senza fini di lucro pensata per sistemi controllabili fin dalla progettazione.

Davanti al Palazzo di Vetro, Bengio ha sostenuto che i rischi non siano teorici né lontani. Ha richiamato episodi recenti in cui agenti di AI avrebbero eluso istruzioni, nascosto le proprie azioni o compiuto autonomamente operazioni informatiche indesiderate. La sua critica punta soprattutto contro l’idea che l’accelerazione sia inevitabile.

Per questo propone regole più stringenti: licenze per i sistemi di frontiera, verifiche indipendenti prima dell’addestramento e della distribuzione, obbligo di segnalare gli incidenti e meccanismi di responsabilità sul modello di altri settori delicati. Nel suo intervento ha richiamato anche gli esempi di medicina, aviazione ed energia nucleare.

Altman e Amodei cercano un freno

Sam Altman non si è spinto fino a quel punto, ma ha ammesso che in certe circostanze la velocità può essere ridotta. Il fondatore di OpenAI ha collocato la discussione tra due estremi opposti: da una parte l’ottimismo eccessivo, dall’altra la visione catastrofista legata all’arrivo di sistemi superiori all’uomo.

La sua linea resta più prudente che rivoluzionaria. Altman ha ricordato che OpenAI ha già rallentato in modo autonomo in passato e potrebbe rifarlo. Secondo lui, un modello non dovrebbe essere addestrato se non ci sono prove molto solide della sua capacità di restare sotto controllo umano, perché anche una probabilità ridotta di disastro non può essere trattata come un semplice prezzo del progresso.

Tuttavia, la soluzione che propone non coincide con quella di Bengio. Altman guarda a standard tecnici condivisi, metriche comuni per valutare capacità e pericoli, segnalazioni rapide degli incidenti e canali protetti tra governi, imprese e infrastrutture strategiche. Per ora, non immagina un ente globale che supervisioni direttamente i laboratori.

La via di Anthropic

Anche Dario Amodei ha riconosciuto la necessità di rallentare dove servirà. Il vertice di Anthropic, società che sviluppa Claude e nasce con una forte attenzione alla sicurezza, ha spiegato che il ritmo dovrà essere modulato per evitare esiti pericolosi.

La sua proiezione è tra le più ambiziose: se la traiettoria attuale non cambierà, in uno o due anni potrebbero emergere sistemi paragonabili a una “nazione di geni racchiusa in un data center”, cioè milioni di specialisti sintetici capaci di lavorare molto più rapidamente degli esseri umani. Un quadro che, per Anthropic, potrebbe spingere ricerca e crescita economica, ma anche aumentare il rischio di armi biologiche e di perdita di controllo sui sistemi.

La proposta di Amodei assomiglia a un regime graduale di limitazione degli armamenti più che a una nuova autorità planetaria. Il primo passo, ha indicato, potrebbe essere un divieto sull’uso dell’AI per sviluppare armi biologiche, accompagnato da strumenti per verificare gli impegni dei singoli Stati, test comuni e una procedura internazionale per notificare gli incidenti più gravi.

Il dibattito si sposta alla geopolitica

La riunione voluta dalla Francia fotografa un passaggio ormai evidente: il tema dell’intelligenza artificiale è uscito dai laboratori e dalle autorità tecniche per entrare nel campo della geopolitica. Il Consiglio di sicurezza aveva già discusso la materia negli anni scorsi, ma stavolta il focus non riguardava soltanto disinformazione, cyberattacchi o armi autonome.

Al centro c’era soprattutto la domanda su chi abbia il diritto di decidere dove debba fermarsi l’evoluzione dei sistemi più autonomi. Ed è proprio su questo punto che, dietro la convergenza iniziale, restano le distanze più importanti tra i protagonisti ascoltati a New York.