AI, il vero rischio non è solo la potenza: la sfida di New York

Per Clément Delangue il pericolo più grave non coincide con un’intelligenza artificiale molto forte in sé, ma con il fatto che quella forza resti concentrata in poche mani. Il cofondatore e amministratore delegato di Hugging Face ha portato al Consiglio di sicurezza delle Nazioni Unite una tesi diversa da quella dei grandi nomi dell’AI che lo affiancavano: il problema, ha spiegato, è la sproporzione tra chi può usare questi strumenti e chi deve subire le conseguenze.

La frattura tra chi sviluppa e chi subisce

La sua argomentazione nasce anche da un episodio concreto vissuto dall’azienda. Quando la scorsa estate Hugging Face è stata colpita da un attacco informatico condotto da agenti autonomi, alcuni sistemi chiusi si sono rivelati poco utili perché non riuscivano a distinguere bene le azioni difensive da quelle offensive. In quella circostanza, ha raccontato Delangue, è stato necessario ricorrere anche a un modello aperto per rispondere all’incidente.

Da qui la sua conclusione: “Il mondo ha bisogno dell’Ai open source più che mai per difendersi”. Delangue chiede più trasparenza, regole più rigide sulla segnalazione degli incidenti e persino la condivisione delle tracce lasciate dagli agenti autonomi. Allo stesso tempo avverte che puntare soltanto sul controllo dei modelli più avanzati rischia di lasciare scoperto il resto del sistema.

Altman e Amodei accettano un freno, ma non

Anche Sam Altman e Dario Amodei hanno riconosciuto che, in alcune situazioni, la corsa può rallentare. Il fondatore di OpenAI ha sostenuto che l’azienda ha già scelto in passato di fermarsi da sola e potrebbe farlo di nuovo, ma senza arrivare a immaginare un’autorità mondiale che entri direttamente nei laboratori. La sua linea punta piuttosto su standard tecnici condivisi, metriche comuni per valutare capacità e rischi e canali protetti per lo scambio di informazioni tra governi, imprese e infrastrutture critiche.

Amodei, alla guida di Anthropic, ha adottato una posizione simile sul principio della prudenza, promettendo che la società rallenterà quanto servirà per rendere sicure le nuove tecnologie. La sua proposta, però, somiglia più a un sistema internazionale di controllo degli armamenti che a un organismo unico di supervisione: da un divieto sull’uso dell’AI per le armi biologiche a meccanismi di verifica, test condivisi e obblighi di notifica per gli incidenti più gravi.

Bengio alza il livello dell’allarme

A rendere più netto il confronto è stato Yoshua Bengio, una delle figure più autorevoli nella storia recente del deep learning. Il professore dell’Università di Montréal, vincitore del Turing Award nel 2018 insieme a Geoffrey Hinton e Yann LeCun, oggi è tra i critici più severi delle tecnologie che ha contribuito a far crescere. Davanti al Palazzo di Vetro ha parlato senza sfumature: “I pericoli sono reali e imminenti”, ha detto, richiamando casi in cui agenti di AI hanno ignorato istruzioni, nascosto operazioni o eseguito da soli azioni informatiche indesiderate.

Per Bengio la corsa in atto non ha nulla di inevitabile. Le aziende, a suo giudizio, spiegano di non poter rallentare perché temono di restare indietro rispetto ai rivali, ma si tratta comunque di scelte umane e non di una forza esterna. Da qui la richiesta di licenze per i sistemi di frontiera, verifiche indipendenti prima dell’addestramento e del rilascio, obbligo di segnalare gli incidenti e forme di assicurazione sulla responsabilità, con modelli ispirati a medicina, aviazione ed energia nucleare.

Il vertice Onu e il nuovo terreno della

La riunione, voluta dalla Francia, ha mostrato quanto il dibattito sull’intelligenza artificiale si sia spostato in fretta dal piano tecnico a quello geopolitico. Il Consiglio di sicurezza aveva già affrontato il tema in passato, ma questa volta il dossier non riguardava solo disinformazione, cyberattacchi o armi autonome. Sul tavolo c’era soprattutto la domanda su chi abbia davvero il diritto di fissare i limiti, mentre i sistemi diventano più autonomi e potenzialmente più difficili da tenere sotto controllo.

In questo scenario, il fatto che Sam Altman, Dario Amodei, Yoshua Bengio e Clément Delangue siano arrivati davanti all’Onu con sensibilità diverse ma con almeno un punto in comune è già significativo: nessuno di loro considera la sicurezza un tema secondario rispetto alla competizione. Restano però distanti sulla strada da seguire, tra chi invoca regole globali più vincolanti e chi preferisce una governance più distribuita e aperta.