IA, il vero rischio è chi la controlla: il caso Robinson

La questione più urgente sull’intelligenza artificiale potrebbe non riguardare ciò che le macchine saranno in grado di fare domani, ma chi decide oggi come costruirle e quali limiti rispettare. Le dimissioni di David Robinson da OpenAI riportano al centro proprio questo interrogativo: lo sviluppo dei sistemi più avanzati procede a una velocità compatibile con i rischi che può generare?

Robinson lavorava alla sicurezza delle tecnologie più evolute dell’azienda. Il suo addio si aggiunge a una serie di uscite che, negli ultimi anni, hanno coinvolto ricercatori impegnati a valutare i pericoli dell’IA nelle principali imprese del settore. Il loro punto comune è il conflitto tra la necessità di procedere con cautela e la pressione a conquistare rapidamente il mercato.

La corsa che indebolisce i controlli

Nella Silicon Valley continua a essere forte l’idea secondo cui una tecnologia debba essere sviluppata in fretta, resa disponibile e corretta in seguito sulla base degli effetti prodotti. Un metodo che può risultare tollerabile per un’applicazione digitale, ma che diventa molto più rischioso quando lo strumento può incidere sull’informazione, sull’economia e sulle relazioni sociali.

Il problema, quindi, non si limita alla presenza di protocolli incompleti o di norme ancora da aggiornare. Riguarda l’ambiente culturale nel quale l’IA viene progettata: un contesto che tende a premiare la velocità, la conquista di nuovi utenti e la capacità di superare i concorrenti. In un simile sistema, la prudenza può apparire come un freno invece che come una condizione necessaria.

Chi arriva al vertice dell’IA

Da qui nasce una domanda più ampia, che riguarda il potere e i meccanismi con cui viene distribuito. Se le organizzazioni valorizzano soprattutto chi accetta più rischi, cresce più rapidamente e considera ogni vincolo un ostacolo, quali comportamenti finiscono per essere favoriti nelle posizioni decisionali?

Gli studi sulla leadership hanno osservato che alcuni tratti associati alla cosiddetta “triade oscura” — narcisismo, machiavellismo e psicopatia — possono agevolare l’avanzata nelle gerarchie. Non si tratta di attribuire diagnosi agli imprenditori della tecnologia, ma di interrogarsi sugli incentivi offerti dal sistema: ricerca del prestigio, competitività estrema, manipolazione e ostentazione della sicurezza possono diventare vantaggi in ambienti molto aggressivi.

Il potere concentrato in poche mani

Per gran parte della storia, il controllo delle risorse e delle decisioni è rimasto nelle mani di élite ristrette, soprattutto maschili. Le democrazie moderne hanno cercato di contenere questa concentrazione attraverso la separazione dei poteri, le regole e gli organismi di controllo. L’intelligenza artificiale rischia però di riaprire quella dinamica su una scala inedita.

Questi sistemi nascono dal sapere accumulato dall’intera umanità e vengono addestrati su una quantità enorme di contenuti prodotti collettivamente. Eppure la loro evoluzione è oggi guidata da un numero limitato di aziende e persone, dotate di una capacità crescente di influenzare il futuro di miliardi di individui.

La domanda viene prima delle macchine

Si può discutere a lungo dell’eventualità che un giorno un’intelligenza artificiale diventi abbastanza potente da sottrarsi al controllo umano. Prima di quel possibile scenario, però, esiste una questione concreta e già presente: il controllo esercitato dagli esseri umani che possiedono e sviluppano queste tecnologie.

Il significato delle dimissioni di Robinson sta soprattutto qui. Il tema decisivo non è soltanto capire quanto saranno intelligenti le macchine, ma stabilire quanto potere siamo disposti a concentrare nelle mani di chi le progetta, le finanzia e ne orienta l’impiego.