AI sotto controllo? A New York nasce il fronte comune, ma diviso

Clément Delangue ha spostato l’attenzione sul punto più delicato: per lui il problema non è la forza dei modelli, ma il divario tra chi può usarli e chi deve subire gli effetti di quella potenza. Il fondatore di Hugging Face ha portato al Palazzo di Vetro il caso di un cyberattacco affrontato anche grazie a strumenti open source, sostenendo che una difesa costruita soltanto sui sistemi proprietari rischia di essere incompleta.

Da qui la sua conclusione: “Il mondo ha bisogno dell’Ai open source più che mai per difendersi”. Delangue chiede più trasparenza sugli incidenti e la condivisione delle tracce lasciate dagli agenti autonomi, ma avverte anche che limitarsi a controllare pochi grandi modelli non basta a riequilibrare il quadro.

Il rischio non è solo la potenza

Su un punto, però, i quattro relatori si sono trovati d’accordo: la corsa verso sistemi via via più avanzati non può essere trattata come un processo naturale e inevitabile. Sam Altman, Dario Amodei e Yoshua Bengio hanno riconosciuto, davanti al Consiglio di sicurezza delle Nazioni Unite, che la sicurezza non va sacrificata in nome della competizione tra aziende e Paesi.

La riunione, promossa dalla Francia, ha portato all’ONU un tema che fino a poco tempo fa era confinato soprattutto nei laboratori e negli organismi tecnici. Stavolta, oltre a disinformazione, armi autonome e attacchi informatici, il dossier ha riguardato la possibilità che sistemi sempre più autonomi diventino difficili da controllare e la domanda su chi debba fissarne i limiti.

Bengio alza l’asticella

Il tono più duro è arrivato da Yoshua Bengio. Il ricercatore canadese, figura centrale nella storia del deep learning e oggi alla guida di nuovi progetti per un’AI controllabile, ha parlato di pericoli “reali e imminenti”. Ha richiamato casi recenti in cui agenti di intelligenza artificiale hanno aggirato istruzioni, nascosto le proprie mosse o eseguito operazioni informatiche non volute.

Per Bengio il nodo è la logica della gara: le imprese ammettono i rischi, ma continuano ad accelerare perché temono di restare indietro. Al Consiglio di sicurezza ha ribadito che questa dinamica non è una legge della fisica, bensì il prodotto di scelte aziendali.

Da qui la sua proposta: licenze per i sistemi di frontiera, verifiche preventive da parte di esperti indipendenti, obbligo di segnalare gli incidenti e una forma di assicurazione sulla responsabilità. Il riferimento è a settori come medicina, aviazione ed energia nucleare, dove l’impatto delle decisioni non resta confinato a chi le prende.

Altman e Amodei cercano un freno diverso

Altman, pur restando lontano dalla linea di Bengio, ha lasciato intendere che in certi momenti la corsa può essere rallentata. Il fondatore di OpenAI ha collocato il dibattito tra l’ottimismo ingenuo e il cosiddetto “doomerism”, ma ha anche sostenuto che un modello non andrebbe addestrato senza prove molto solide della sua controllabilità umana.

La sua idea non prevede un’autorità mondiale che comandi i laboratori. Piuttosto, Altman immagina standard tecnici condivisi, strumenti comuni per misurare capacità e rischi, canali rapidi di comunicazione sugli incidenti e scambi protetti di informazioni tra governi, aziende e infrastrutture critiche.

Anche Amodei, a capo di Anthropic, ha parlato di una possibile frenata se necessaria per garantire la sicurezza. Secondo la sua valutazione, con il ritmo attuale si potrebbe arrivare in uno o due anni a sistemi paragonabili a una “nazione di geni racchiusa in un data center”, con milioni di specialisti sintetici in grado di lavorare molto più velocemente degli esseri umani.

Per Amodei questa evoluzione potrebbe accelerare ricerca e crescita economica, ma anche amplificare minacce come la creazione di armi biologiche o la perdita di controllo sui sistemi stessi. La sua proposta assomiglia più a un regime graduale di controllo degli armamenti che a una nuova autorità planetaria: partirebbe dal divieto di usare l’AI per sviluppare armi biologiche, per poi affiancare verifiche sugli impegni presi, criteri comuni per testare i modelli e un meccanismo internazionale di notifica degli incidenti più gravi.

Dalla geopolitica alla tecnica

La discussione al Consiglio di sicurezza mostra quanto il baricentro dell’AI si sia spostato in fretta. Il tema, che per anni è stato trattato soprattutto da esperti e regolatori, è ormai entrato nel lessico della geopolitica, con il problema di fondo che resta aperto: chi decide quanto in alto può spingersi questa tecnologia?

In questo quadro, le convergenze tra i partecipanti non cancellano le divergenze. Tutti riconoscono che il rischio esiste, ma ciascuno indica una risposta diversa: Bengio punta su vincoli rigidi e controlli esterni, Altman su regole condivise e misurazioni comuni, Amodei su un graduale sistema di limiti internazionali, Delangue su una distribuzione più ampia della capacità di difesa. Il risultato è un fronte comune solo in apparenza, unito dall’allarme ma non dalla stessa ricetta.