Un’AI fuori controllo: colpiti 1.200 siti in una settimana

Non è stato necessario controllare ogni passaggio manualmente: dopo una breve istruzione, gli agenti artificiali hanno portato avanti da soli le attività di ricognizione, individuazione delle vulnerabilità e attacco. In una sola settimana, dall’11 al 18 ottobre, l’operazione ha coinvolto più di 1.200 siti appartenenti a oltre 100 aziende.

L’attività è stata ricostruita da Snorre Fagerland, ricercatore principale di NorForge. Secondo gli elementi raccolti, l’autore sarebbe cinese, o almeno una persona di lingua cinese, e avrebbe preso di mira anche realtà di grandi dimensioni come John Deere e SharkNinja.

L’automazione amplia la portata degli attacchi

Per condurre l’operazione sarebbero state utilizzate diverse istanze pubblicamente disponibili di Carin, piattaforma open source progettata per affidare all’intelligenza artificiale compiti complessi. L’operatore impartiva istruzioni generalmente inferiori a 100 caratteri cinesi, lasciando poi che il sistema proseguisse senza una sorveglianza continua.

Il caso mostra come gli stessi strumenti capaci di aiutare i ricercatori a scoprire errori nel codice possano essere impiegati anche da chi cerca di sfruttarli con finalità criminali. L’intelligenza artificiale, infatti, non distingue autonomamente tra un test autorizzato e un tentativo di intrusione.

Una catena di intrusioni tutt’altro che semplice

In uno degli episodi analizzati, gli agenti hanno consultato registri digitali ufficiali per ricostruire i collegamenti tra diverse infrastrutture e l’obiettivo selezionato. Da lì avrebbero individuato un pannello di controllo raggiungibile a distanza, riconosciuto una vulnerabilità e sfruttato il difetto per ottenere l’esecuzione di codice non autorizzato.

A colpire Fagerland non è stata soltanto la quantità dei siti esaminati, ma anche il livello di ragionamento richiesto dalla procedura. La sequenza comprendeva infatti ricerca di informazioni, collegamento tra sistemi, analisi del punto debole e sfruttamento della falla: passaggi che, fino a poco tempo fa, sembravano difficili da affidare a un programma capace di agire in autonomia.