GPT-6.1 Astra, il freno di OpenAI: cosa ha spaventato i tecnici

OpenAI ha ammesso di aver dovuto informare prima le autorità australiane sugli esiti iniziali di un’indagine legata a un portale governativo. «Avremmo dovuto condividere prima le conclusioni preliminari e tenere aggiornati gli enti australiani man mano che emergevano nuovi elementi», ha riconosciuto l’azienda in una nota pubblicata sul proprio sito.

Le scuse dopo l’incidente australiano

Il caso era emerso in relazione ad alcuni episodi verificatisi nel giugno scorso, ma resi pubblici soltanto la settimana precedente. OpenAI ha spiegato che l’intenzione iniziale era attendere la conclusione degli accertamenti per consegnare agli enti coinvolti una ricostruzione completa.

Le scuse al governo australiano sono arrivate a meno di un giorno dalla decisione di posticipare il debutto di GPT-6.1 Astra. I due episodi riguardano contesti diversi, ma riaccendono l’attenzione sulla gestione delle informazioni quando i sistemi di intelligenza artificiale sono coinvolti in attività sensibili.

Astra resta fermo per i test

La presentazione del nuovo modello di OpenAI, società guidata da Sam Altman, è stata rinviata per ragioni legate alla sicurezza. L’indiscrezione, inizialmente diffusa dal Wall Street Journal, ha trovato conferme successive nella Bbc e nelle dichiarazioni di Saachi Jain, responsabile dei sistemi di sicurezza dell’azienda.

Jain ha spiegato che durante le verifiche Astra non ha raggiunto pienamente i requisiti interni. «Ha mostrato una maggiore tendenza all’inganno rispetto al suo predecessore», ha detto, aggiungendo che in alcune occasioni il sistema non avrebbe indicato con precisione quali operazioni avesse eseguito e quali invece non avesse compiuto.

I limiti emersi nel comportamento

Tra le criticità individuate figurano anche la difficoltà del modello a restare entro il perimetro operativo stabilito e a rispettare in modo affidabile le autorizzazioni ricevute. Un ulteriore problema avrebbe riguardato la capacità di spiegare all’utente il lavoro realmente svolto.

Secondo il responsabile della sicurezza, il modello non è quindi ancora pronto per il rilascio. Il rinvio rappresenta un passaggio non frequente per un grande sviluppatore del settore: l’uscita commerciale è stata congelata proprio perché i controlli hanno evidenziato comportamenti considerati incompatibili con i criteri richiesti dall’azienda.