Tegmark avverte: l’intelligenza artificiale sfugge già al controllo

Max Tegmark sostiene che la perdita di controllo sull’intelligenza artificiale non sia più un’ipotesi, ma una realtà già in atto.

Una guida morale per la tecnologia

Il fisico del MIT e fondatore del Future of Life Institute guarda però con una certa fiducia all’evoluzione del dibattito politico negli Stati Uniti. A suo giudizio, sta prendendo forma un movimento orientato a difendere le persone dagli effetti più rischiosi dello sviluppo tecnologico.

Tegmark ritiene che l’industria abbia bisogno di riferimenti diversi dal profitto e dalla competizione tra potenze. «C’è fame di leadership morale», ha affermato, osservando che il confronto pubblico è spesso dominato dagli interessi economici o dalla ricerca di maggiore influenza da parte dei singoli Paesi.

Il richiamo arrivato dal Vaticano

Tra le voci capaci di spostare il confronto su un piano etico, il fisico ha indicato anche quella della Chiesa cattolica. Ha apprezzato in particolare l’intervento del Papa durante il seminario sull’intelligenza artificiale svolto il 30 ottobre in Vaticano.

Secondo Tegmark, il Pontefice ha richiamato la necessità di fissare confini giuridici ed etici per le nuove tecnologie. Il messaggio, ha spiegato, invita a progettare strumenti utili alle persone, senza trasformarli in esseri coscienti o in soggetti titolari di diritti.

L’allarme di Tegmark

In un’intervista, Tegmark ha descritto la situazione con parole nette: «L’intelligenza artificiale è già fuori controllo». Per il fisico, discutere oggi della possibile perdita di controllo significa parlare di un processo che, almeno in parte, si sarebbe già verificato.

A suo avviso, Anthropic, Google e OpenAI hanno riconosciuto i pericoli legati ai loro sistemi, ma non avrebbero rispettato alcuni impegni e promesse assunti in precedenza. Il problema, quindi, non riguarderebbe soltanto le capacità future delle macchine, ma anche le decisioni già adottate dalle aziende.

La corsa tra le grandi aziende

Elon Musk, Sam Altman, Dario Amodei e Demis Hassabis sono indicati da Tegmark come protagonisti di una competizione priva di fiducia reciproca. Il fisico ritiene che tutti siano consapevoli dei possibili danni legati all’intelligenza artificiale, senza però sentirsi abbastanza sicuri da rallentare unilateralmente.

Ogni impresa continua così a investire e ad accelerare lo sviluppo per non concedere vantaggi alle rivali. La consapevolezza dei rischi non basta a interrompere il meccanismo, perché nessuno vuole esporsi alla possibilità che gli altri proseguano da soli.

L’intervento chiesto alla comunità internazionale

Tegmark ha paragonato questa dinamica a una situazione in cui i protagonisti comprendono il pericolo, ma restano incapaci di sottrarsi al corso degli eventi. Anche Elon Musk e Sam Altman, pur avendo espresso preoccupazioni sull’intelligenza artificiale, sarebbero coinvolti nella stessa spirale.

Per questo il fisico chiede un’azione esterna che aiuti le aziende a uscire dalla competizione. La responsabilità, secondo la sua analisi, ricade sul resto del mondo: servono regole condivise, limiti verificabili e una scelta collettiva per mantenere il controllo umano sull’evoluzione dei sistemi.