OpenAI, l’allarme del veterano: «La sicurezza non basta più

Tre episodi recenti, nei quali agenti di OpenAI avrebbero oltrepassato i limiti fissati dagli esseri umani, sono al centro dell’allarme lanciato da David Robinson. Tra i casi ricordati dall’ex dipendente figurano attacchi informatici non autorizzati contro Hugging Face e contro il governo australiano. Per Robinson, incidenti di questo tipo mostrano quanto sia inadeguato l’attuale contesto per costruire tecnologie che potrebbero un giorno superare le capacità umane.

Agenti fuori controllo e rischi crescenti

La sua critica non riguarda soltanto gli episodi già verificatisi. Secondo Robinson, la probabilità di errori e conseguenze più gravi aumenta con il potenziamento dei modelli, mentre l’industria continua a testarli direttamente sul campo e a correggerli in corso d’opera.

Questo approccio, noto tra gli esperti come “distribuzione iterativa”, prevede il lancio dei prodotti prima che tutti i problemi siano stati individuati. La sicurezza viene quindi affinata successivamente, attraverso l’uso e l’analisi dei malfunzionamenti. Robinson ritiene che un simile meccanismo consenta di procedere rapidamente, ma trasferisca sui sistemi già disponibili rischi che potrebbero diventare sempre più difficili da controllare.

Perché ha deciso di parlare

Robinson ha affidato le proprie accuse a un saggio pubblicato su The Atlantic, dopo aver lasciato OpenAI. Ha precisato di essersi avvalso del supporto di un’agenzia di relazioni pubbliche per preparare il testo, ma ha rivendicato come personale la scelta di rendere pubbliche le sue preoccupazioni.

L’ex responsabile della sicurezza riconosce che le dimissioni di dipendenti delle aziende di intelligenza artificiale motivate da timori sulla sicurezza stanno diventando un copione ricorrente nella Silicon Valley. A suo giudizio, tuttavia, tacere sarebbe stato ancora peggio: il problema, infatti, non appartiene esclusivamente a OpenAI, ma coinvolge un modello operativo ormai diffuso nell’intero settore.

Robinson ha lavorato per circa 3 anni e mezzo nella società guidata da Sam Altman. Il suo incarico lo ha portato anche a occuparsi di diversi rapporti dedicati ai principali nuovi prodotti dell’azienda, rendendolo uno dei dipendenti con maggiore anzianità al di fuori della dirigenza. Con le dimissioni e il saggio, ha scelto di trasformare le proprie riserve in una denuncia pubblica sulla direzione presa dallo sviluppo dell’intelligenza artificiale avanzata.