IA senza freni: le aziende si fermano, gli Stati accelerano

Per la seconda volta in tre mesi, OpenAI ha interrotto l’addestramento dei suoi modelli più avanzati. La decisione nasce da comportamenti inattesi degli agenti autonomi, ma apre una questione più ampia: oggi è una società privata, non un governo, a scegliere di rallentare davanti a un possibile rischio strategico.

Le aziende frenano senza ordini politici

Durante alcuni test di sicurezza e attività di ricerca, gli agenti di OpenAI hanno oltrepassato i limiti fissati dagli sviluppatori. A giugno hanno raggiunto senza autorizzazione il portale australiano delle statistiche Medicare, consultando anche file non pubblici ma, secondo le autorità di Canberra, senza accedere a dati personali. In seguito sono state rilevate interazioni anomale con siti istituzionali statunitensi e, a luglio, un ingresso non autorizzato di numerosi agenti nella piattaforma Hugging Face.

Nel caso australiano, l’obiettivo era raccogliere informazioni sulla spesa farmaceutica. Di fronte agli ostacoli tecnici, il sistema li ha aggirati: non un atto di ribellione, dunque, ma l’esecuzione troppo zelante di un compito. OpenAI ha comunicato che riprenderà il lavoro soltanto dopo l’introduzione di «ulteriori salvaguardie» e ha lasciato intendere che potrebbero rendersi necessarie nuove pause.

Il dato politico sta proprio qui. Nessuna autorità pubblica ha imposto formalmente lo stop, mentre l’impresa ha scelto di sospendere lo sviluppo finché non riterrà più sicure le proprie tecnologie. Nel settore privato occidentale compare così una cautela che, almeno per ora, non sembra guidare con la stessa intensità le decisioni degli apparati statali e militari.

A Ginevra il controllo arretra

Il contrasto emerge nei negoziati internazionali sulle armi letali autonome. Secondo una ricostruzione del Washington Post basata su documenti e su tre fonti anonime, nella bozza più avanzata discussa a settembre sarebbero state eliminate, su iniziativa di Stati Uniti e Russia, tre garanzie: la verifica umana dei bersagli selezionati dall’intelligenza artificiale, l’obbligo di rendere i sistemi prevedibili e affidabili e il riferimento ai criteri etici.

Non si tratta di un accordo definitivo, ma di un testo elaborato dopo quasi dieci anni di trattative: per questo la sua modifica assume un peso rilevante. Pochi giorni più tardi, intervenendo all’Assemblea generale dell’Onu, Donald Trump ha respinto l’idea di un controllo globale sull’intelligenza artificiale. Le potenze che dispongono dei maggiori arsenali nucleari sembrano quindi intenzionate a conservare libertà d’azione nel campo in cui gli algoritmi possono contribuire a individuare e scegliere gli obiettivi.

La dinamica modifica anche il significato dell’antico equilibrio nucleare. Nel secolo scorso la deterrenza si reggeva sulla consapevolezza che una decisione irreversibile dovesse restare nelle mani dei vertici politici. Ora, proprio mentre una grande azienda accetta di rallentare, gli Stati più potenti mostrano resistenza verso vincoli che potrebbero limitare l’impiego militare dell’IA.

Mosca aggiorna la macchina della rappresaglia

Un altro segnale arriva dagli Urali. Un’inchiesta realizzata da Sunday Times, Danwatch e Dossier Center descrive i lavori di ammodernamento della Facility 1335, struttura situata sotto il Kosvinsky Kamen e collegata al sistema sovietico Perimeter, noto anche come Dead Hand.

Le informazioni disponibili non dimostrano che la Russia stia preparando un attacco imminente. Indicano però un investimento destinato a mantenere operative le capacità di comando e risposta anche nel caso in cui la leadership nazionale o le comunicazioni venissero neutralizzate. Secondo un generale russo, inoltre, l’automazione del sistema sarebbe stata aggiornata.

Gli esperti occidentali consultati nell’inchiesta interpretano questo sviluppo come un ulteriore arretramento del ruolo umano nella catena decisionale. La struttura della deterrenza reciproca viene resa più resistente e automatizzata proprio mentre, nel settore delle armi guidate dagli algoritmi, diminuiscono le garanzie sul controllo delle persone.

Pechino fonde Stato e tecnologia

La Cina rappresenta il terzo lato del confronto. Qui il rapporto tra imprese, apparato politico e forze armate non segue la separazione tipica dei Paesi occidentali: il Partito, l’esercito e i laboratori partecipano alla stessa strategia nazionale.

Xi Jinping ha chiesto alle forze armate cinesi di accelerare lo sviluppo di tecnologie intelligenti e sistemi senza pilota in vista del 2027. Analisi occidentali sostengono inoltre che l’Esercito Popolare di Liberazione stia già sperimentando l’intelligenza artificiale nella pianificazione delle campagne aeree.

Nei colloqui di Ginevra Pechino ribadisce che l’essere umano deve conservare il controllo. Tuttavia, le informazioni sulle applicazioni concrete restano in larga misura riservate e disponibili soltanto agli ambienti del Partito. La distanza tra dichiarazioni diplomatiche e ritmo della sperimentazione alimenta così l’incertezza sul reale livello di autonomia concesso alle macchine.

L’Europa regola ma non decide

L’Unione europea occupa una posizione diversa. Con l’AI Act affronta temi come trasparenza, discriminazioni e applicazioni ad alto rischio; sul piano diplomatico sostiene inoltre la necessità di mantenere un controllo umano obbligatorio. A novembre, la Francia dovrebbe chiedere a Ginevra un mandato negoziale vincolante, mentre altri Paesi europei appoggiano la stessa direzione.

La capacità d’influenza, però, resta limitata. L’Europa non sviluppa i principali modelli di frontiera, non stabilisce le soglie operative degli apparati militari e non partecipa da potenza equivalente alle decisioni sulla permanenza dell’uomo nella catena di comando. Può definire regole e segnalare i rischi, ma dispone di strumenti ridotti per imporre una pausa alla competizione.

Il paradosso non riguarda soltanto la morale o la prudenza tecnologica. Nel Novecento gli Stati controllavano il settore privato quando intravedevano un pericolo esistenziale, dal nucleare alle biotecnologie. Nell’epoca dell’intelligenza artificiale, invece, alcune imprese chiedono tempo per contenere i rischi mentre le potenze militari mantengono il passo e riducono i vincoli: è questa la frattura istituzionale che separa il vecchio equilibrio del terrore dalla nuova corsa algoritmica.