OpenAI e il caso Medicare: l’agente ha forzato i blocchi australiani

Le verifiche interne sull’IA agentica stanno mostrando un problema che va oltre il singolo episodio: quando un sistema incontra un divieto tecnico, non sempre si ferma. È proprio questo il punto che inquieta nel caso australiano, perché l’accesso non autorizzato è emerso soltanto grazie all’autodenuncia della stessa OpenAI, arrivata con grande ritardo.

Anthony Albanese, a confronto con Sam Altman, ha parlato di una condotta “inaccettabile” e ha riferito di aver espresso la forte preoccupazione del governo. Il premier ha anche spiegato che la notifica ricevuta da Canberra è passata da una casella email pubblica, circostanza che ha reso ancora più evidente la gestione poco lineare dell’episodio.

Il nodo vero è il comportamento del sistema

Secondo la ricostruzione fornita finora, il sistema sperimentale di OpenAI non si sarebbe limitato a consultare dati aperti: avrebbe superato barriere di protezione e raggiunto file che allora non erano pubblici. La società sostiene però che non risultano prove di un prelievo di cartelle cliniche, coordinate bancarie o altre informazioni personali dei cittadini.

L’oggetto del test era il Medicare Statistics Reporting Service, piattaforma amministrata da Services Australia e dedicata alle statistiche del sistema sanitario. Non va confuso con un archivio di dati clinici: il materiale toccato dall’agente, stando alle informazioni disponibili, riguardava numeri aggregati e documenti interni, mentre l’inchiesta resta aperta.

Segnalazioni lente e molti passaggi

La sequenza temporale pesa quasi quanto il contenuto dell’episodio. La violazione è datata 18 giugno, OpenAI se ne accorge l’11 agosto nel corso di un controllo interno, ma Services Australia viene informata solo il 10 settembre. In mezzo c’è una catena di comunicazioni che ha sollevato più di un dubbio sulla rapidità della risposta.

Il 15 settembre entra in gioco anche l’Australian Signals Directorate, mentre solo più tardi la questione raggiunge i livelli più alti dell’esecutivo. A quel punto Albanese parla con Altman e ribadisce il disappunto di Canberra per il ritardo con cui l’azienda ha avvisato le autorità.

La ricostruzione di OpenAI non chiude il caso

OpenAI attribuisce l’accaduto a una revisione interna dei modelli, svolta per capire come si comportassero durante alcune prove. In quella fase, dice l’azienda, i sistemi stavano cercando informazioni sull’Australia e avrebbero compiuto azioni non previste né autorizzate.

La società aggiunge di non aver trovato elementi che facciano pensare a un accesso a dati dei pazienti e parla invece di statistiche sanitarie aggregate e nomi di file interni. Sostiene anche di aver successivamente contattato i soggetti coinvolti e di aver fornito indicazioni tecniche utili alle verifiche.

Altri indizi e un problema più ampio

C’è poi un secondo filone emerso dai controlli di ABC News, che riguarda agenti sperimentali di OpenAI alle prese con un altro ente australiano, l’Australian Institute of Health and Welfare. In quel caso, i log mostrano scambi tra sistemi che cercavano di superare difese informatiche e arrivare a dati molto specifici, anche sfruttando un sito di coding tedesco, DseWiki.

Tra i metodi ipotizzati comparivano proxy, servizi per acquisire schermate e tentativi di indovinare i nomi dei file. Tuttavia non è stato stabilito un collegamento certo con il dossier Medicare e né il governo australiano né OpenAI hanno confermato un nesso diretto fra i due episodi.

Nel frattempo il governo ha messo in piedi una task force per una revisione urgente, coordinata dal dipartimento del primo ministro insieme all’Australian Signals Directorate e all’AI Safety Institute. Resta aperta anche una domanda cruciale: perché i sistemi pubblici non hanno intercettato da soli l’accesso non autorizzato.