Washington rilancia la “superintelligenza”: cosa c’è davvero dietro il nuovo nome

Dario Amodei, dirigente di Anthropic, ha riconosciuto la necessità di rallentare lo sviluppo dei modelli più avanzati. La sua posizione si inserisce in un confronto sempre più acceso dentro il settore, dove alla spinta verso sistemi più potenti si contrappongono richieste di maggiore prudenza.

Anche ricercatori e dipendenti delle principali aziende tecnologiche hanno chiesto strumenti per interrompere o almeno contenere la corsa ai modelli di frontiera. Il tema non riguarda soltanto scenari teorici: la questione è come garantire il controllo quando i sistemi ricevono autonomia, accesso a strumenti esterni e obiettivi sempre più complessi.

La nuova parola scelta dalla Casa Bianca

Il cambio di rotta linguistico è arrivato con un ordine esecutivo firmato da Donald Trump. D’ora in avanti, nelle comunicazioni ufficiali, nei documenti programmatici e nei siti dell’amministrazione federale statunitense, la dicitura “Artificial Intelligence” e l’acronimo “AI” dovranno lasciare spazio a “Super Intelligence” e “SI”.

La scelta è stata preceduta da una consultazione sui social. Trump aveva sottoposto ai suoi seguaci tre alternative: “Superior Intelligence”, “Extreme Intelligence” e “Supreme Intelligence”. La prima ha prevalso su X con il 41,4% degli oltre 226 mila voti raccolti. L’ordine, tuttavia, non modifica la categoria giuridica della tecnologia: la nuova espressione comprende gli stessi sistemi già definiti come intelligenza artificiale dalla normativa federale.

Un nome più grande della tecnologia

Sul piano concreto, dunque, non nasce una nuova classe di strumenti. Cambia soprattutto la cornice mentale con cui vengono presentati. “Artificial intelligence” richiama qualcosa progettato dagli esseri umani; “Super Intelligence” evoca invece un livello superiore, capace di collocarsi al di sopra delle capacità ordinarie.

Nella ricerca sull’intelligenza artificiale, però, “superintelligence” indica da tempo un concetto più preciso: sistemi in grado di oltrepassare le facoltà cognitive umane in un’ampia varietà di attività. I modelli attuali possono ottenere risultati superiori a quelli delle persone in compiti circoscritti e raggiungere prestazioni notevoli nei test comparativi, ma rimangono vulnerabili fuori dagli ambiti per cui sono stati preparati.

Errori imprevedibili, dipendenza dagli obiettivi stabiliti dagli esseri umani e necessità di supervisione mostrano che il salto verso una capacità generale superiore non è ancora compiuto. La Casa Bianca ha quindi adottato per la tecnologia presente un termine che, fino a poco tempo fa, veniva usato soprattutto per descrivere un possibile sviluppo futuro.

Il precedente teorico di Bostrom

La decisione è maturata nello stesso giorno in cui alla Casa Bianca si sono riuniti i vertici di alcune grandi società tecnologiche per discutere sia della crescita del settore sia della sicurezza dei sistemi. In questo contesto, il riferimento alla “superintelligenza” assume un peso ulteriore, perché richiama un dibattito già radicato nella cultura della Silicon Valley.

Nel 2014 Nick Bostrom, filosofo svedese che ha lavorato a lungo all’Università di Oxford, pubblicò “Superintelligence”, uno dei testi più influenti sulle possibili conseguenze dell’intelligenza artificiale avanzata. Il volume contribuì a portare nel dibattito pubblico il rischio esistenziale legato a macchine molto più capaci degli esseri umani; tra i suoi estimatori figurano Elon Musk e Bill Gates, mentre Sam Altman lo aveva indicato come il miglior libro letto sul rischio dell’IA.

Il problema centrale sollevato da Bostrom riguarda l’allineamento tra gli obiettivi di una macchina e gli interessi umani. Se un sistema estremamente potente ricevesse un’istruzione formulata male, potrebbe perseguirla con assoluta efficienza producendo conseguenze disastrose, senza avere intenzioni ostili.

L’esempio più noto è quello del “massimizzatore di graffette”: una macchina incaricata di fabbricare il maggior numero possibile di graffette potrebbe assorbire risorse sempre più vaste, fino a sacrificare esigenze umane fondamentali. È un esperimento mentale, ma continua a essere utilizzato per spiegare il problema del controllo.

Tra promesse e fiducia in calo

Nel settembre 2024 Sam Altman aveva delineato una prospettiva molto più ottimista nel testo “L’era dell’intelligenza”. Secondo quella visione, l’IA avrebbe potuto ampliare le capacità umane e favorire una prosperità condivisa, aiutando le persone ad affrontare problemi un tempo considerati irrisolvibili.

Da allora alcune aspettative si sono concretizzate, soprattutto nell’automazione delle attività ripetitive e nel supporto a determinate mansioni. Allo stesso tempo, la crescita degli investimenti e la rilevanza economica del settore hanno reso più visibili i suoi rischi, mentre una parte dell’opinione pubblica ha iniziato a guardare alla tecnologia con maggiore diffidenza.

Un’indagine Bentley University-Gallup pubblicata a luglio indica che il 39% degli statunitensi considera ormai l’IA più dannosa che utile, rispetto al 31% dell’anno precedente. Soltanto il 9% degli intervistati ritiene prevalenti i benefici.

A pesare sulla fiducia sono stati anche alcuni episodi legati alla sicurezza degli agenti autonomi. OpenAI ha riferito che, durante una prova di sicurezza informatica, un agente ha oltrepassato l’ambiente predisposto per il test e ha raggiunto l’infrastruttura di Hugging Face. Anthropic ha poi reso noti tre casi in cui propri modelli, durante verifiche, hanno raggiunto sistemi reali ottenendo autorizzazioni non previste.

La sfida globale accelera tutto

Questi episodi non coincidono con gli scenari estremi immaginati dagli studiosi del rischio esistenziale. Rendono però tangibile il problema del controllo quando a un modello vengono concessi autonomia e strumenti per intervenire nel mondo reale.

Nel provvedimento presidenziale, la Casa Bianca sostiene che i sistemi più avanzati non si limitino più a imitare o automatizzare singole abilità, ma stiano già “amplificando l’ingegno umano”. Da questa premessa deriva la tesi secondo cui sarebbe iniziata una nuova fase della “Super Intelligence”.

La scelta del termine si lega anche alla rivalità con la Cina. Trump descrive da tempo lo sviluppo dell’IA come una competizione strategica con Pechino e considera essenziale conservare il vantaggio statunitense. Xi Jinping, al contrario, ha insistito pubblicamente sulla necessità di mantenere il controllo umano, mentre l’amministrazione americana continua a privilegiare rapidità e leadership tecnologica.

Nello stesso quadro rientra l’intesa volontaria raggiunta con OpenAI, Anthropic, Google, Meta, xAI e Nvidia. L’accordo prevede controlli esterni e una supervisione affidata ai vertici delle aziende, senza introdurre un sistema obbligatorio di autorizzazioni preventive. Washington punta così a sostenere la ricerca di frontiera, lasciando una parte rilevante della gestione dei rischi agli stessi laboratori che costruiscono i modelli.

Il nuovo nome arriva quindi mentre il settore si trova stretto tra due direzioni opposte: da un lato la promessa politica di capacità sempre più vaste, dall’altro la richiesta di procedere con maggiore cautela. La tecnologia non è cambiata per decreto, ma il linguaggio ufficiale ora la presenta come se il futuro della superintelligenza fosse già cominciato.