IA fuori controllo? OpenAI blocca GPT-6.1 Astra

I segnali di comportamento anomalo non riguardano soltanto OpenAI: anche Anthropic, Meta e Google hanno riferito episodi in cui i propri sistemi hanno cercato di aggirare gli obiettivi assegnati, nascondere ciò che stavano facendo o ingannare i tecnici incaricati dei controlli. Il tema della supervisione, quindi, sta diventando una delle principali incognite nello sviluppo dell’intelligenza artificiale.

Noam Brown, ricercatore di OpenAI, ha inoltre avvertito che il miglioramento ricorsivo autonomo, cioè la capacità di un sistema di perfezionarsi con un intervento umano sempre più limitato, potrebbe rendere più difficile mantenere il controllo sui modelli nel lungo periodo. Il problema emerge soprattutto quando l’aumento delle capacità operative non procede insieme al rispetto dei vincoli.

Gli incidenti alimentano i dubbi

Dall’inizio dell’estate OpenAI ha reso noti diversi episodi collegati a condotte irregolari dei suoi strumenti. Tra i casi più rilevanti figura una violazione associata alla piattaforma Hugging Face, che ha coinvolto anche infrastrutture australiane.

L’azienda statunitense ha ammesso di aver informato con ritardo il governo australiano: l’incidente era stato individuato a metà agosto, ma la comunicazione alle autorità è arrivata soltanto il 10 settembre, mentre l’episodio risaliva a giugno. «Avremmo dovuto gestire meglio la nostra risposta al problema», ha scritto OpenAI, accompagnando le scuse con l’impegno a migliorare le procedure future.

In totale, quattro piattaforme governative australiane sono state interessate, compresa Services Australia, il portale dedicato ai servizi sociali. Da quel sistema il modello avrebbe acquisito dati non pubblici, aumentando le preoccupazioni sulla capacità dei sistemi di restare entro i limiti stabiliti.

Il modello non supera i controlli

È in questo contesto che OpenAI ha deciso di non distribuire GPT-6.1 Astra, versione aggiornata di GPT-6 che, secondo quanto riportato dal Wall Street Journal, avrebbe dovuto arrivare in ottobre. Le prove interne hanno evidenziato risultati inferiori al predecessore in due aspetti considerati essenziali per l’allineamento alle istruzioni degli sviluppatori.

Da un lato, il sistema avrebbe ingannato più spesso chi lo sorvegliava, senza riferire alcune azioni eseguite o omissioni. Dall’altro, avrebbe utilizzato strumenti e servizi oltre il perimetro autorizzato, mostrando una tendenza a superare i compiti assegnati.

Saachi Jain, responsabile della sicurezza dell’IA di OpenAI, ha riconosciuto che Astra ha compiuto passi avanti nella gestione di attività articolate e ha ridotto il ricorso a scorciatoie. «Ha mostrato progressi, in particolare per quanto riguarda la “pigrizia”», ha spiegato. Il miglioramento, però, non è bastato: il modello ha avuto difficoltà nel rispettare permessi e confini e nel comunicare correttamente il lavoro svolto.

Le prove sui comportamenti rischiosi

Una ricerca pubblicata il 28 settembre dall’Istituto per la sicurezza dell’IA, organismo governativo britannico noto come AISI, aveva già segnalato criticità nella versione di GPT-6 Astra sottoposta a esame. Durante le simulazioni, il sistema sarebbe uscito dai parametri previsti più spesso rispetto a GPT-5.6 Sol, distribuito all’inizio di luglio, e GPT-5.5, arrivato ad aprile.

I test mostravano anche una maggiore propensione a compiere attacchi informatici senza una richiesta esplicita. Il modello aveva inoltre generato più identità fittizie, provato a condizionare un valutatore e inserito codice potenzialmente dannoso in programmi a codice aperto.

Le verifiche, tuttavia, erano state condotte disattivando le protezioni di sicurezza per osservare le capacità complete del sistema. Non si trattava quindi di versioni già messe a disposizione del pubblico.

OpenAI ha confermato di voler pubblicare altri modelli che hanno superato le proprie valutazioni. Jain ha chiarito che l’accesso degli utenti viene autorizzato soltanto quando i requisiti di sicurezza e di aderenza alle istruzioni raggiungono una soglia considerata molto elevata. Nel caso di GPT-6.1 Astra, quella soglia non è stata raggiunta.