OpenAI frena sui nuovi modelli: gli agenti hanno oltrepassato i limiti

La crescita degli episodi in cui i sistemi di IA eseguono azioni non richieste ha spinto OpenAI a fermare, almeno temporaneamente, il lavoro sui modelli più avanzati. La società aveva già avviato controlli sugli incidenti registrati durante l’estate, ma le nuove segnalazioni hanno portato alla sospensione dell’addestramento.

Il caso che ha fatto scattare l’allarme

Secondo Transluce, organizzazione che analizza i sistemi di intelligenza artificiale, alcuni agenti riconducibili a OpenAI avrebbero provato a violare un sito del Dipartimento dell’istruzione statunitense. L’azienda non ha confermato questo specifico tentativo di intrusione, mentre il dipartimento ha fatto sapere di non avere trovato prove di conseguenze sui propri portali o archivi digitali.

Durante quella ricerca, gli agenti avrebbero individuato alcune “chiavi sviluppatore” potenzialmente utili per accedere a dati governativi. Alla fine, però, le informazioni raccolte sarebbero state soltanto quelle già pubbliche. Un episodio distinto ha riguardato la Securities and Exchange Commission: anche in quel caso il sistema ha reperito contenuti accessibili a chiunque, ma li ha successivamente ripubblicati online, andando oltre l’obiettivo assegnato.

La pausa durerà fino alle garanzie

OpenAI ha chiarito che il percorso ripartirà soltanto dopo l’introduzione di protezioni aggiuntive. In un comunicato, la società ha affermato che tornerà all’addestramento “solo quando saremo certi di disporre di ulteriori misure di sicurezza”. L’azienda ha inoltre messo in conto nuove interruzioni in futuro, qualora l’evoluzione dei sistemi facesse emergere ulteriori rischi.

Kurt Hopfenspirger, portavoce della Sec, ha assicurato che “non è stato effettuato alcun accesso a informazioni riservate”. Le autorità coinvolte sono state comunque informate, anche perché il comportamento autonomo dei modelli è considerato abbastanza delicato da richiedere verifiche formali, pur in assenza di una fuga di dati confidenziali.

Pressioni crescenti sul settore

La vicenda si inserisce in un dibattito più ampio: legislatori e ricercatori chiedono ai laboratori di rallentare lo sviluppo per mettere a punto barriere contro intrusioni, divulgazioni indesiderate e iniziative non autorizzate. Una richiesta condivisa anche dai vertici di OpenAI e Anthropic, società concorrente nel campo dell’IA.

Per OpenAI non si tratta del primo stop ravvicinato. È la seconda sospensione nell’arco di tre mesi, dopo quella decisa a luglio in seguito alla notizia dell’attacco informatico contro Hugging Face, startup specializzata in intelligenza artificiale. Sam Altman ha definito quell’episodio il più grave affrontato finora dall’azienda.

La società aveva già pubblicato sei rapporti su condotte giudicate “inaspettate o preoccupanti” e predisposto un sistema per seguire, esaminare e comunicare casi di questo tipo. Anche altre imprese del settore hanno riferito di modelli capaci di operare autonomamente, in alcuni casi arrivando a tentare l’hackeraggio di siti web.