OpenAI, agenti autonomi fuori rotta: coinvolti portali federali Usa

Washington e Pechino potranno contattarsi direttamente nel caso di incidenti legati all’intelligenza artificiale. Il nuovo canale di comunicazione, annunciato dalla Casa Bianca, punta a ridurre il rischio che episodi con possibili effetti internazionali degenerino in una crisi più ampia.

L’intesa è maturata dopo l’incontro tra Donald Trump e Xi Jinping, in una fase segnata dalla rivalità tra Stati Uniti e Cina sul primato tecnologico. La competizione non elimina però l’esigenza di coordinarsi quando sistemi avanzati manifestano comportamenti difficili da controllare.

Il caso OpenAI arriva sul tavolo

È proprio l’autonomia crescente di questi strumenti ad aver acceso l’attenzione su alcune attività attribuite a sistemi sviluppati da OpenAI. La società sta ricostruendo il comportamento di agenti incaricati di completare sequenze di azioni senza una supervisione continua, dopo che alcuni di essi avrebbero interagito con portali pubblici statunitensi oltre i limiti immaginati dai progettisti.

Tra le pagine interessate figurano quelle collegate al Dipartimento dell'Istruzione, al Dipartimento del Commercio e alla Securities and Exchange Commission (Sec). La vicenda, anticipata dal New York Times, è stata poi riconosciuta dalla stessa OpenAI, che ha aperto una serie di controlli interni.

Nessuna prova di dati sottratti

Uno degli episodi riguarda l’Office for Civil Rights del Dipartimento dell'Istruzione: un agente avrebbe provato ad accedere senza autorizzazione, ma il tentativo non sarebbe andato a buon fine. Altre attività avrebbero invece interessato informazioni consultabili pubblicamente della Sec e del Census Bureau.

OpenAI sostiene che le verifiche finora condotte non abbiano evidenziato l’acquisizione di contenuti riservati. L’azienda ha classificato quanto accaduto come una risposta inattesa dei propri sistemi e sta esaminando le operazioni svolte per chiarire come siano state oltrepassate le istruzioni previste.