Geoffrey Hinton: le IA saranno esseri diversi da noi

Geoffrey Hinton ha messo in guardia a Vienna sul rapporto futuro tra esseri umani e intelligenze artificiali, sostenendo che i sistemi più avanzati potrebbero diventare un altro tipo di essere. Il Nobel per la Fisica ha partecipato al TedAI e ha presentato le sue idee sulla necessità di educare queste macchine anche sul piano del carattere.

La metafora della madre

Secondo Hinton, l’idea dell’intelligenza artificiale come semplice assistente, sempre subordinata al controllo umano, potrebbe non reggere quando i sistemi diventeranno più capaci delle persone. In natura, ha osservato, un essere meno intelligente raramente riesce a comandarne uno più evoluto.

L’eccezione indicata dallo scienziato è il rapporto tra una madre e il proprio figlio. L’evoluzione ha fatto sì che il pianto del neonato attivi nella madre una risposta di cura; per questo, secondo Hinton, il problema non sarà soltanto impedire a una superintelligenza di sfuggire al controllo, ma fare in modo che non consideri l’umanità un ostacolo da eliminare.

Poco dopo il suo intervento, Hinton ha ricevuto la prima copia stampata del libro di prossima pubblicazione, “Più intelligenti di noi”, atteso nel gennaio 2027. Parlando del volume, ha detto: «È un po’ come una madre che vede il suo bambino. Ovviamente molto meno intenso. Ma è il mio bambino».

Il carattere delle macchine

Hinton, 78 anni, ha ricevuto il Nobel per la Fisica nel 2024 e il Turing Award nel 2018. Per decenni ha sostenuto il valore delle reti neurali, considerate a lungo una strada senza sbocchi, e nel 2012 ha contribuito con due suoi studenti a una vittoria nella gara internazionale per il riconoscimento delle immagini.

Nel 2023 ha lasciato Google per parlare pubblicamente dei rischi legati alla tecnologia che aveva contribuito a sviluppare. Tra i suoi allievi figura Ilya Sutskever, cofondatore di OpenAI. Hinton ritiene oggi insufficiente concentrarsi soltanto sulle capacità dei sistemi: servirebbe studiare anche il modo in cui formarne la personalità.

«Dovremmo fare moltissima ricerca su come controllare il carattere degli esseri superintelligenti che stiamo mettendo al mondo», ha spiegato. L’obiettivo, ha aggiunto, è evitare macchine molto intelligenti ma anche cattive, ingannevoli o avide, un aspetto che a suo giudizio riceve ancora poca attenzione.

Come vengono addestrati i modelli

Lo scienziato ha criticato il metodo oggi utilizzato per costruire i modelli linguistici. Nella prima fase i sistemi analizzano una quantità enorme di materiali, inclusi testi prodotti da persone con idee, comportamenti e valori molto diversi, mentre in seguito vengono indirizzati verso risposte considerate appropriate.

Per Hinton, questo procedimento rischia di generare macchine confuse, capaci di assumere molte personalità prima di essere corrette dall’addestramento successivo. A suo parere sarebbe preferibile partire da dati più selezionati e mostrare innanzitutto comportamenti positivi, introducendo quelli negativi soltanto quando il sistema sarà in grado di riconoscerli.

Lo scienziato ha collegato il problema alla natura cooperativa degli esseri umani. Citando Yuval Harari, ha ricordato che le persone collaborano più delle altre scimmie e che l’intelligenza, unita alla cooperazione, dovrebbe diventare il modello per l’inserimento delle nuove macchine nella società.

Le domande formulate dalle IA

Durante l’incontro, Hinton ha accettato di rispondere anche a due quesiti preparati da Claude Fable e ChatGPT Astra. I sistemi avevano ricevuto l’audio del suo intervento, una lezione del 23 ottobre e alcune sue interviste recenti, con l’incarico di individuare le tensioni nelle sue posizioni invece di limitarsi a confermarle.

Hinton ha scherzato sul fatto che l’intervistatore stesse affidando parte del proprio ruolo a ChatGPT. La risposta è stata che la collaborazione con le macchine non dovrebbe comportare la rinuncia alla capacità di pensare. «Se avremo un buon futuro, sarà fatto di persone che sapranno collaborare con le IA», ha replicato Hinton.

Una delle domande riguardava i possibili diritti morali delle intelligenze artificiali. Il quesito partiva dall’ipotesi che queste macchine possano un giorno comprendere, provare esperienze e avere una forma di sentire simile a quella umana, chiedendo quale trattamento sarebbe allora dovuto loro.

Hinton ha ricondotto la morale all’evoluzione e alla vita nelle comunità, osservando che onestà e rispetto degli impegni favoriscono i rapporti tra persone destinate a incontrarsi ancora. La questione dei diritti delle macchine, ha quindi indicato, dipenderà dalle scelte degli esseri umani.