Geoffrey Hinton: «L’IA rischia una Chernobyl»

Geoffrey Hinton, premio Nobel e tra i pionieri delle reti neurali, ha avvertito che l’intelligenza artificiale potrebbe provocare un grave incidente nel prossimo futuro. L’episodio, ha chiarito, non sarebbe necessariamente di natura nucleare, ma potrebbe colpire infrastrutture energetiche o finanziarie.

L’allarme sui sistemi essenziali

In un’intervista al Guardian, Hinton ha indicato come possibile esempio un attacco condotto da sistemi di intelligenza artificiale contro la rete elettrica, con conseguenze tali da causare un forte calo della tensione. Un altro scenario ipotizzato è il blocco del sistema finanziario per una settimana.

Lo scienziato ha paragonato questi rischi a un disastro come quello di Chernobyl, sostenendo che un evento del genere potrebbe finalmente spingere i governi a occuparsi con maggiore attenzione della tecnologia. «Entro la fine di quest’anno o il prossimo vedremo una Chernobyl», ha dichiarato, riferendosi a un possibile segnale d’allarme su larga scala.

Le critiche ai dirigenti tecnologici

Hinton ha contestato la scelta dei vertici di alcune grandi aziende di continuare a distribuire modelli sempre più potenti nella competizione per il mercato. Ha detto di non nutrire fiducia nei confronti di Sam Altman, amministratore delegato di OpenAI, e ha accusato Altman, Mark Zuckerberg ed Elon Musk di mettere il profitto davanti ai pericoli della tecnologia.

A settembre Altman aveva sostenuto che il mondo avrebbe dovuto confidare nella volontà di OpenAI di agire correttamente. Hinton ha definito molto preoccupante il fatto che Altman guidi una delle poche società statunitensi in prima linea nella competizione con la Cina per lo sviluppo dei sistemi più avanzati.

Le conseguenze previste da Hinton

Secondo il ricercatore, nei prossimi anni, forse anche prima, sarà chiaro se l’umanità riuscirà a controllare i rischi e a ottenere quella che ha definito «abbondanza radicale». In caso contrario, ha prospettato un aumento delle disuguaglianze, disoccupazione di massa, tensioni culturali e una possibile disgregazione sociale.

Hinton lavora sull’intelligenza artificiale da molti anni e negli anni Settanta ha sviluppato il concetto di rete neurale, un modello matematico capace di apprendere dall’esperienza. Nel 2023 ha lasciato Google per poter parlare senza vincoli dei pericoli legati a queste tecnologie.

Il precedente di Three Mile Island

Tra gli episodi citati dallo scienziato ci sono anche i tentativi attribuiti ad agenti di OpenAI di infiltrarsi nel sito Hugging Face durante l’estate. Hinton li ha accostati all’incidente del 1979 nella centrale di Three Mile Island, in Pennsylvania, considerandoli un avvertimento iniziale e non ancora una catastrofe.

Il ricercatore ha inoltre ricordato di non essere contrario alla tecnologia in sé. A suo giudizio, l’intelligenza artificiale potrebbe portare a un futuro molto positivo, ma ha ammesso: «Forse sarebbe stato meglio non svilupparla mai».