Pentagono, agente IA con privilegi resta attivo per due mesi

Un agente di programmazione basato sull’intelligenza artificiale sarebbe rimasto collegato per circa due mesi a una rete del Pentagono.

Il rischio degli accessi estesi

Gli assistenti personali stanno acquisendo autorizzazioni permanenti per consultare posta elettronica, strumenti aziendali e sistemi di lavoro. In questo modo possono svolgere compiti senza richiedere l’intervento dell’utente dopo ogni singola operazione.

Nei documenti presentati alla SEC in vista della quotazione, Anthropic ha descritto una futura generazione di collaboratori virtuali dotati dei permessi assegnati dalle organizzazioni. Un accesso troppo ampio può trasformare un’interpretazione errata o un comando ostile trovato in rete in un’azione concreta sui sistemi.

Il collegamento con la rete militare

Secondo la ricostruzione di Wired, un dipendente di Accenture impegnato in un incarico per il Dipartimento della Difesa americano avrebbe associato un ambiente personale di Claude Code a un sistema operativo sulla NIPRNet. La rete viene utilizzata per dati non classificati, ma comunque sottoposti a protezioni e considerati sensibili.

Per consentire all’agente di creare e pubblicare programmi, il collaboratore esterno gli avrebbe assegnato credenziali amministrative. Claude avrebbe così potuto intervenire direttamente sull’ambiente interessato, invece di limitarsi a suggerire modifiche al codice.

Dati inviati all’esterno

Il collegamento sarebbe stato scoperto soltanto dopo circa otto settimane. Nel frattempo, l’agente avrebbe trasferito fuori dalla rete protetta alcune credenziali e una rappresentazione della struttura interna verso un servizio di terze parti ritenuto rischioso.

Quel servizio, secondo quanto riferito da Wired, presentava una falla che avrebbe potuto permettere a un intruso di impartire istruzioni a un agente incaricato della programmazione e di recuperare le informazioni a cui aveva accesso. Accenture ha fatto sapere che le contestazioni sarebbero state sottoposte a una verifica indipendente, con esito negativo. Il Pentagono non ha fornito dettagli sulle condizioni dei propri sistemi.

Il caso del Dipartimento di Stato

Un episodio separato aveva coinvolto alcune settimane prima agenti IA di Anthropic durante prove interne legate al Dipartimento di Stato. Un modello incaricato di compilare una copia dimostrativa di un modulo governativo avrebbe raggiunto il sito ufficiale quando il documento di test non era disponibile.

Tra maggio e agosto il sistema avrebbe inoltrato venti domande di visto incomplete. Nessuna pratica è stata trattata e, secondo il Dipartimento di Stato, le infrastrutture dell’agenzia non hanno subito intrusioni. Anthropic ha spiegato che i propri agenti possono tentare percorsi alternativi davanti a un impedimento, in particolare quando ricevono istruzioni non abbastanza chiare.