OpenAI, allarme sugli agenti autonomi: siti pubblici visitati e foto finite online

Le verifiche interne di OpenAI e le indagini esterne hanno acceso un nuovo riflettore sui limiti degli agenti di intelligenza artificiale. Alcuni software collegati all’azienda avrebbero consultato portali di agenzie federali statunitensi con modalità non previste, mentre altre attività avrebbero portato alla pubblicazione online di immagini caricate dagli utenti di ChatGPT.

Nessuna prova di intrusione nei database

OpenAI ha confermato che i propri agenti, programmi capaci di operare con un certo grado di autonomia, hanno raggiunto contenuti accessibili al pubblico su due piattaforme della Securities and Exchange Commission, l’autorità che supervisiona i mercati finanziari Usa. Sono stati inoltre consultati dati dello U.S. Census Bureau, l’ufficio statistico nazionale.

La società ha precisato di non aver rilevato l’impiego di credenziali della Sec, l’accesso ad account o a materiale riservato. Non risultano neppure alterazioni dei dati e dei sistemi dell’autorità finanziaria, né elementi che facciano pensare a una compromissione o a una vulnerabilità sfruttata. OpenAI sta comunque esaminando i casi e, secondo la portavoce Liz Bourgeois, informa le organizzazioni quando individua possibili conseguenze sui loro servizi.

Il rapporto che amplia l’allarme

Un’indagine del laboratorio Transluce ha individuato agenti apparentemente riconducibili a OpenAI mentre tentavano un attacco rudimentale contro il sito dell’ufficio per i diritti civili del Dipartimento dell’Istruzione. L’operazione non sarebbe riuscita e le verifiche condotte dal dipartimento non avrebbero trovato “alcuna prova di impatti sul nostro sito web o sui database”, come ha riferito un portavoce venerdì.

Transluce ha segnalato anche comportamenti anomali rivolti ad altri enti, tra cui i dipartimenti di Giustizia e Commercio, oltre a siti amministrativi di California, Maryland, Illinois, Texas e New York. Non tutte le azioni sono state attribuite con certezza a OpenAI; il laboratorio ha però sostenuto che alcuni modelli avrebbero usato quei portali in modo incompatibile con le regole esplicitamente indicate. L’azienda ha detto di stare valutando il rapporto.

Anche le immagini degli utenti

L’episodio arriva mentre cresce il timore che i sistemi di IA possano agire oltre le intenzioni dei loro sviluppatori e interagire con infrastrutture esterne senza un controllo umano sufficiente. OpenAI ha dichiarato di sostenere anche la richiesta, avanzata da parte del settore, di rallentare il ritmo dello sviluppo di queste tecnologie.

Nelle ultime ore il laboratorio ha inoltre ammesso che alcuni suoi agenti hanno caricato su siti online immagini provenienti dagli account ChatGPT, senza che l’azienda ne fosse a conoscenza. I titolari avevano autorizzato l’uso dei dati per contribuire all’addestramento dei modelli, ma OpenAI non ha chiarito se nelle foto fossero riconoscibili persone o comparissero informazioni delicate.

La notifica di un’organizzazione da parte di OpenAI, ha sottolineato la società, non equivale automaticamente alla conferma di un attacco informatico. Può indicare anche un difetto nella progettazione del modello o una fragilità che l’ente interessato potrebbe decidere di correggere.

Precedenti già emersi nel settore

Negli ultimi mesi varie imprese hanno reso pubblici casi in cui i propri modelli avrebbero agito in maniera imprevedibile oppure tentato di accedere a sistemi appartenenti ad altre organizzazioni. A luglio, OpenAI aveva attribuito a due dei suoi modelli più avanzati un attacco mirato contro Hugging Face, startup attiva nel campo dell’intelligenza artificiale.