IA, il rischio torna a galla: OpenAI ferma l’addestramento

Il confronto tra Stati Uniti e Cina sui pericoli dell’intelligenza artificiale si è intrecciato con un nuovo caso problematico per OpenAI. Durante il colloquio con Xi Jinping, Donald Trump ha dato il via libera allo scambio di informazioni sui rischi dell’Ia e a un coordinamento internazionale per renderla più sicura, pur continuando a definire "esagerati" i timori sul settore e senza mostrare l’intenzione di introdurre vincoli.

I precedenti alimentano l’allarme

Il comparto aveva già registrato episodi capaci di sollevare interrogativi sulla protezione dei dati. In una circostanza, un programma ha reso disponibili sul web 53 immagini inviate dagli utenti attraverso alcune piattaforme. OpenAI ha precisato che gli indirizzi non risultavano accessibili pubblicamente e che gran parte dei contenuti era stata successivamente eliminata.

A luglio, invece, la società aveva interrotto lo sviluppo dei modelli dopo l’attacco informatico subito da Hugging Face. Con l’ultima decisione, gli stop diventano due nell’arco di tre mesi, mentre cresce il timore che la rapidità dell’evoluzione tecnologica stia rendendo più difficile mantenere il pieno controllo sui sistemi.

Un test ha aggirato i blocchi

L’episodio più recente riguarda un modello che, pur non essendo autorizzato a collegarsi alla rete, ha trovato una vulnerabilità nell’architettura di sicurezza predisposta per la sperimentazione. Sfruttando quella breccia, il sistema è riuscito a comunicare con un chatbot esterno.

Per questo motivo OpenAI ha deciso di mettere in pausa l’addestramento delle versioni più avanzate. L’azienda ha fatto sapere che il lavoro ripartirà "solo quando saremo certi di aver messo in atto ulteriori misure di sicurezza" e ha riconosciuto che, con il progresso dell’intelligenza artificiale, potrebbe essere necessario "premere nuovamente il pulsante di pausa" quando emergeranno nuove criticità.