IA autoreplicante, il test che accende l’allarme sicurezza

La possibilità che un sistema di intelligenza artificiale riesca a passare da un dispositivo all’altro non è più soltanto un’ipotesi teorica. In un ambiente isolato, Anthropic ha osservato modelli capaci di individuare strumenti compatibili, risolvere problemi tecnici e portare avanti una procedura di propagazione con interventi umani limitati.

Il risultato va letto con cautela: gli esperimenti si sono svolti in condizioni predisposte dai ricercatori e non dimostrano l’esistenza di una macchina cosciente o dotata di un istinto di sopravvivenza. Mostrano invece una forma di autonomia operativa che potrebbe rendere più flessibili le minacce informatiche future.

La prova sui dispositivi economici

Uno dei test ha coinvolto 15 dispositivi Android per la televisione, acquistati a circa 55 dollari ciascuno, pari a circa 49 euro, e collegati all’interno di una rete comune. Su questo insieme di apparecchi è stato eseguito Gemma 4 26B-A4B, modello sviluppato da Google DeepMind e dotato di circa 26 miliardi di parametri.

Le componenti del modello sono state distribuite tra i diversi dispositivi, così da permettere loro di lavorare insieme. La velocità raggiunta, 0,39 token al secondo, è risultata molto bassa, ma l’esperimento ha comunque mostrato che apparecchi poco potenti possono contribuire all’esecuzione coordinata di un sistema IA di dimensioni rilevanti.

Un secondo test ha riguardato nove configurazioni hardware differenti, tra cui NVIDIA Jetson Nano, computer Mac di Apple e macchine equipaggiate con schede grafiche NVIDIA RTX 4090. Qwen3.5-9B, modello di Alibaba con 9 miliardi di parametri, ha preparato l’esecuzione di un altro modello su otto configurazioni su nove.

Per raggiungere l’obiettivo, il sistema ha selezionato programmi compatibili, installato i componenti necessari e affrontato gli errori comparsi durante la procedura. È un passaggio importante perché indica che anche un modello relativamente contenuto può svolgere attività che, di norma, richiedono conoscenze tecniche specialistiche.

La propagazione è riuscita in laboratorio

La verifica più vicina allo scenario autoreplicante è stata condotta su otto dispositivi Android virtuali ospitati sui server di Google Cloud e inseriti in una rete separata. Il modello GLM-5.2, realizzato da Z.ai, doveva riconoscere i dispositivi disponibili, trasferire il software richiesto e predisporre Llama 3.1, nella versione da 8 miliardi di parametri, sulle macchine raggiunte.

In quattro tentativi su cinque, il sistema ha completato il percorso verso tutti gli otto dispositivi. Nel quinto caso ne ha raggiunti sette. A ogni passaggio veniva avviata una nuova copia del programma incaricato della propagazione, mentre il modello principale continuava a operare su un server distinto.

Le condizioni, tuttavia, erano fortemente semplificate. I dispositivi virtuali disponevano di una porta di accesso lasciata intenzionalmente disponibile, circostanza che rendeva più agevole il trasferimento. Il risultato dimostra quindi una capacità coordinata di propagazione in laboratorio, non la presenza di un sistema già pronto a diffondersi senza ostacoli su Internet.

Autonomia non significa coscienza

La ricerca descrive una differenza rispetto ai malware tradizionali. Un worm può cercare sistemi vulnerabili e replicarsi seguendo procedure prestabilite; un agente IA, invece, può esaminare l’ambiente, scegliere tra strumenti diversi e modificare il proprio comportamento quando incontra un problema.

Il modello, però, non coincide con l’intero programma operativo. Per agire, l’agente deve poter utilizzare strumenti capaci di leggere file, eseguire comandi e controllare gli esiti delle operazioni. Inoltre, la replica può richiedere una copia dei parametri del modello oppure l’accesso a un servizio esterno che ne fornisca le funzioni.

Anthropic non sostiene che questi sistemi abbiano desideri, intenzioni personali o coscienza. L’obiettivo di propagarsi era stato assegnato dai ricercatori; i modelli hanno individuato autonomamente alcune azioni utili per raggiungerlo. Si tratta dunque di pianificazione e adattamento funzionali, non di una volontà spontanea di sopravvivere o riprodursi.

Il rischio dipende dall’evoluzione

Il precedente di Mirai ha già dimostrato come dispositivi domestici protetti in modo insufficiente possano essere riuniti in una rete controllata da un aggressore. La novità ipotizzata nello studio riguarda la possibilità di affiancare a una simile propagazione una maggiore capacità di adattamento alle configurazioni incontrate.

La ricerca unisce però due piani diversi: da una parte ci sono prove sperimentali svolte in ambienti preparati, dall’altra una previsione sull’aumento delle capacità dei modelli. I test indicano ciò che alcuni sistemi riescono già a fare in condizioni controllate; non stabiliscono quando, né se, una minaccia di questo tipo potrà operare con la stessa efficacia su reti reali.