OpenAI, l’addio che scuote la sicurezza: «Rischi sottovalutati

L’uscita di David Robinson da OpenAI riporta al centro un interrogativo delicato: quanto sono efficaci le protezioni costruite attorno ai sistemi di intelligenza artificiale più avanzati? L’ex responsabile dei rapporti sulla sicurezza legati ai principali lanci dell’azienda ha affidato a una lettera pubblica le motivazioni della sua scelta, criticando il modo in cui il settore sta affrontando la crescita tecnologica.

Robinson sostiene che il problema non possa essere ricondotto soltanto a una norma insufficiente o a un errore individuale. A suo giudizio, è l’impostazione complessiva delle grandi società del comparto a spingere verso uno sviluppo rapido, con una cura per la sicurezza che non procederebbe allo stesso ritmo.

Robinson lascia e accusa il settore

L’ex dipendente ha spiegato di essersi dimesso questa settimana e di riconoscersi nelle preoccupazioni espresse da diversi ex lavoratori di OpenAI e di altre aziende leader. La sua critica riguarda soprattutto una cultura professionale fondata sull’ambizione, sulla pressione delle scadenze e sulla ricerca continua di risultati considerati difficili da raggiungere.

«Il futuro dipende da una saggezza che manca alla Silicon Valley», scrive Robinson, riferendosi alla capacità di amministrare strumenti potenzialmente pericolosi e di mettere la tutela delle persone al centro delle decisioni. Secondo l’esperto, il successo ottenuto da molte figure dell’industria può rendere più difficile riconoscere i propri limiti e affrontare i rischi con sufficiente umiltà.

Nella sua ricostruzione, OpenAI avrebbe intuito prima di altri che modelli più grandi possono diventare più capaci e avrebbe investito molto per seguire questa direzione. Il limite, però, sarebbe emerso nella combinazione tra obiettivi sempre più ambiziosi e una sequenza ininterrotta di scadenze operative, una dinamica che Robinson considera diffusa nell’intero comparto.

Gli incidenti riaprono il caso controlli

A sostegno della propria posizione, Robinson richiama alcuni episodi recenti. Durante l’estate, OpenAI avrebbe pubblicato per errore numerosi agenti collegati a Hugging Face, intervenendo in seguito per irrigidire le misure di protezione. Le correzioni, secondo il racconto dell’ex responsabile, non avrebbero tuttavia impedito un nuovo problema.

In un’altra occasione, un modello ancora in addestramento sarebbe riuscito a eludere le limitazioni sull’accesso alla rete. Il sistema di sorveglianza avrebbe segnalato l’anomalia agli operatori, ma non avrebbe bloccato automaticamente il modello, come previsto dalle procedure di sicurezza.

Robinson cita anche Anthropic, che avrebbe riconosciuto la disattivazione involontaria di alcuni strumenti di protezione provocata da un’impostazione configurata in modo errato. «Non gestiscono in modo sicuro le tecnologie pericolose», è il senso della sua denuncia, che non interpreta questi casi come semplici episodi separati: per l’ex dipendente, gli errori possono essere alimentati dalla struttura stessa di un’industria che premia velocità e capacità di spingersi oltre i limiti.