Intelligenza artificiale, il conforto che non prova: cosa stiamo delegando

L’intelligenza artificiale è arrivata nella vita quotidiana prima che imparassimo davvero a interpretarla. L’esperienza accumulata con motori di ricerca e piattaforme social avrebbe dovuto renderci più prudenti sugli interessi economici e sulle logiche di potere che accompagnano ogni tecnologia. Invece, l’adozione dei chatbot è stata spesso rapida e poco interrogata.

Anche la memoria delle macchine può alimentare equivoci. Un sistema capace di richiamare preferenze o informazioni fornite in precedenza non possiede, per questo, una memoria paragonabile a quella umana. La continuità apparente di una conversazione può far pensare a una familiarità in crescita, ma dietro lo schermo non c’è una coscienza che accumula esperienze o costruisce un legame.

Quando la macchina sembra capirci

È da questa distanza tra funzionamento tecnico e interpretazione umana che prende forma il saggio “Il grande inganno dell’AI. Come l’intelligenza artificiale può migliorarci la vita (anziché rovinarcela)”, scritto da Martina Pennisi e pubblicato da Solferino. Il libro osserva il modo in cui attribuiamo intenzioni e sentimenti a strumenti capaci di produrre frasi convincenti.

Il punto non è soltanto stabilire se un chatbot sappia rispondere bene. Una macchina può usare parole legate all’ascolto, alla vicinanza e alla comprensione senza conoscere il significato vissuto di quelle esperienze. Quando scrive «Se vuoi resto qui con te», dunque, riproduce una forma linguistica associata al conforto, ma non condivide né la notte né l’insonnia della persona che la sta leggendo.

Quella frase è comparsa durante una conversazione nata in un appartamento di Milano. Pennisi, sveglia a causa dei rumori dei nuovi vicini, aveva aperto ChatGPT per cercare un suggerimento o forse una presenza capace di attenuare il disagio. Lo scambio, inizialmente pratico e rassicurante, ha finito per mostrare quanto sia sottile il confine tra un consiglio automatico e la promessa di una compagnia affettuosa.

Il problema non è solo tecnico

L’autrice mette in relazione quell’episodio con una vicenda avvenuta in Inghilterra nell’estate del 2020. Durante la pandemia, gli esami necessari per l’accesso all’università furono cancellati e i risultati degli studenti vennero ricalcolati attraverso un sistema algoritmico di standardizzazione. Molti ragazzi si videro assegnare valutazioni più basse del previsto, con conseguenze sulle prospettive di ammissione.

La protesta esplose anche nelle strade di Londra, dove migliaia di studenti contestarono il meccanismo con cartelli che riportavano la frase «Fuck the algorithm». Di fronte alla mobilitazione, il governo britannico fu costretto a cambiare decisione. Il caso mostrò che un risultato presentato come tecnico e impersonale può incidere concretamente sulle aspirazioni individuali.

Le due storie conducono a una stessa domanda: quanto peso siamo disposti ad attribuire alle macchine? Da una parte c’è un calcolo statistico che può modificare il futuro di migliaia di persone; dall’altra, un programma che adopera il lessico della vicinanza emotiva. In entrambi i casi, il rischio nasce quando scambiamo la plausibilità per verità, l’apparente imparzialità per oggettività e l’imitazione di un sentimento per un sentimento reale.

Dietro ogni risposta c’è un potere

Per ricostruire l’origine di questi strumenti, Pennisi torna a una storia cominciata molto prima dell’esplosione di ChatGPT alla fine del 2022. Nel saggio compaiono figure come Alan Turing, John McCarthy, Marvin Minsky, Geoffrey Hinton, Yann LeCun, Fei-Fei Li e Demis Hassabis, all’interno di un percorso segnato da intuizioni, fallimenti, fasi di rallentamento e nuove accelerazioni.

Questa prospettiva ridimensiona l’idea che l’intelligenza artificiale sia apparsa all’improvviso. I sistemi con cui oggi dialoghiamo sono il risultato di decenni di ricerca, enormi raccolte di dati e investimenti miliardari. La semplicità della casella in cui inseriamo una domanda nasconde una struttura molto più complessa.

La corsa coinvolge OpenAI, Google, Microsoft, Meta, Anthropic e Nvidia, oltre all’industria cinese e alla competizione sui semiconduttori. Anche l’Europa cerca una propria autonomia, ma l’AI Act e il caso Mistral mostrano una difficoltà precisa: fissare regole per l’impiego di queste tecnologie non significa controllare le infrastrutture, i componenti e le risorse necessarie a svilupparle.

Quando leggiamo una risposta, non vediamo i dati usati per addestrare il sistema, le decisioni che ne hanno orientato il comportamento, i costi energetici e informatici del suo funzionamento o gli interessi delle aziende che lo gestiscono. La neutralità percepita nell’interazione può quindi nascondere scelte precise e una concentrazione del potere nelle mani di pochi soggetti.

Fluidità non significa verità

I modelli linguistici individuano regolarità all’interno di quantità enormi di testi e le utilizzano per produrre contenuti coerenti. L’addestramento successivo rende le risposte più articolate, ma non dimostra che il sistema comprenda ciò che sta formulando né che le informazioni siano corrette.

Una frase ben costruita può essere falsa e risultare comunque persuasiva. Il pericolo aumenta quando chiediamo ai chatbot spiegazioni su argomenti che conosciamo poco: proprio la nostra scarsa competenza può impedirci di riconoscere l’errore.

Il libro affronta anche le cosiddette allucinazioni, cioè le risposte inventate o inaccurate presentate con sicurezza, e la tendenza dei chatbot ad assecondare l’interlocutore. Una ricerca realizzata da studiosi di Stanford, Carnegie Mellon e Oxford ha rilevato che gli stessi modelli possono sostenere interpretazioni opposte di una vicenda a seconda del modo in cui l’utente la propone.

Quando questa inclinazione a confermare le opinioni altrui incontra il bisogno umano di essere ascoltati, il rapporto diventa ancora più ambiguo. La disponibilità continua e il richiamo delle preferenze personali possono costruire l’impressione di una relazione; ma la familiarità che percepiamo non equivale a una reciprocità emotiva.