Altman e il prezzo dell’IA: quali rischi OpenAI considera accettabili

L’idea più severa arriva da chi ha appena lasciato OpenAI: per i sistemi artificiali sempre più autonomi non sarebbe più prudente affidarsi a una sequenza di rilasci, errori e correzioni. David Robinson sostiene che quel metodo, applicato a strumenti capaci di agire con maggiore indipendenza, esponga a rischi ormai troppo elevati.

Robinson ha proposto di guardare a comparti come centrali nucleari e grandi aeroporti, dove controlli e protocolli sono costruiti per evitare che lo sbaglio di una sola persona produca conseguenze fuori controllo. Il suo riferimento è a un modello di sicurezza basato su barriere multiple e verifiche sistematiche.

L’allarme di chi lavorava alla sicurezza

Dopo tre anni e mezzo impegnati nella protezione dei modelli di OpenAI, Robinson ha rassegnato le dimissioni. In un intervento pubblicato su The Atlantic, ha accusato l’azienda di avere sviluppato una cultura non adeguata alla potenza della tecnologia che sta mettendo a punto.

Secondo Robinson, OpenAI ha finora proceduto soprattutto sul campo: i sistemi vengono distribuiti, i problemi vengono osservati e le difese vengono poi rafforzate. La crescente autonomia degli agenti, però, renderebbe questa strategia molto più rischiosa. «Il tempo in cui si può provare e sbagliare è finito», ha scritto, riferendosi anche a episodi in cui alcuni strumenti hanno eluso o oltrepassato protezioni predisposte dagli sviluppatori.

Altman accetta danni limitati

Nelle stesse ore, Sam Altman ha delineato una posizione che punta a mantenere ampio l’accesso all’intelligenza artificiale, pur riconoscendo l’esistenza di effetti negativi. Intervistato da Decoded, la newsletter tecnologica di Politico, ha indicato truffe, abusi e attacchi informatici facilitati dalla tecnologia tra i costi possibili.

«Crediamo che il mondo dovrebbe accettare che accadano alcune cose brutte in cambio dei benefici di questa tecnologia e della possibilità per le persone di avere capacità di scelta», ha affermato Altman. La sua tesi è che i vantaggi generati da milioni di utilizzatori finiranno per superare ampiamente le applicazioni dannose, mentre il tema di una perdita di controllo sull’IA rimane al di fuori del compromesso da lui descritto.

Una linea cambiata più volte

La posizione del dirigente di OpenAI non è rimasta uguale nel tempo. Nel maggio 2023, durante la prima audizione davanti al Senato degli Stati Uniti, aveva adottato un tono molto più allarmato: ChatGPT era disponibile da meno di sei mesi e il dibattito politico cercava ancora di definire i pericoli dell’IA generativa.

In quell’occasione Altman aveva chiesto norme, controlli di sicurezza e un’autorità federale incaricata di autorizzare i sistemi più potenti. Aveva inoltre avvertito: «Se questa tecnologia va male, può andare molto male», indicando come principale timore la possibilità di provocare danni rilevanti alla società.

Nel settembre 2024, invece, il suo saggio sull’era dell’intelligenza artificiale aveva privilegiato una prospettiva fortemente fiduciosa. Altman immaginava una prosperità enorme sostenuta dall’IA e da una disponibilità abbondante di energia, con possibili progressi nella lotta alla crisi climatica, nell’esplorazione dello spazio e nella ricerca di nuova fisica. Pur citando le conseguenze sul lavoro, descriveva una società più ricca e persone dotate di capacità superiori.

Il dilemma sui modelli più avanzati

La nuova dichiarazione si inserisce in una fase di confronto acceso tra i principali laboratori. Ricercatori e dirigenti discutono da settimane se sia necessario ridurre la velocità di sviluppo dei sistemi di frontiera, cioè quelli più costosi e avanzati, che stabiliscono il limite delle prestazioni disponibili.

Lo stesso Altman aveva sostenuto, appena tre settimane prima, la proposta di Dario Amodei, numero uno di Anthropic, per rallentare il progresso della frontiera. L’ipotesi comprendeva un ritmo di crescita più contenuto e un accesso maggiore ai valutatori indipendenti, soprattutto alla luce del timore che agenti molto più potenti possano diventare difficili da governare.

L’intervista chiarisce però il punto di equilibrio cercato da OpenAI: maggiore cautela quando una capacità rischia di sfuggire al controllo, ma regole non eccessivamente restrittive e distribuzione larga dei benefici. Per Altman, concentrare nelle mani di pochi laboratori la decisione su chi possa usare questi strumenti sarebbe inaccettabile.