Voce, empatia e illusioni: perché l’AI non è cosciente

Le nuove funzioni vocali dell’intelligenza artificiale possono rendere il dialogo sorprendentemente naturale. Intercalari, esitazioni ed espressioni simili a quelle umane fanno sembrare l’assistente capace di comprendere emozioni e persino di mostrare empatia, soprattutto nella modalità vocale avanzata di ChatGPT.

Questa impressione, però, non dimostra che il sistema abbia una consapevolezza autentica. La questione è stata esaminata da Anil Seth, Ned Block e Giulio Tononi in un articolo pubblicato su Nature, nel quale vengono indicate tre ragioni scientifiche per ritenere che le attuali intelligenze artificiali non siano coscienti e che, forse, non lo diventino mai.

Parlare non significa sentire

Il punto di partenza è la distinzione tra intelligenza e coscienza. La prima può comprendere l’elaborazione di informazioni, l’apprendimento e la capacità di scegliere tra diverse opzioni; la seconda riguarda invece la possibilità di vivere esperienze soggettive, cioè di provare realmente qualcosa.

Un sistema, dunque, può comportarsi in modo efficace senza avere una dimensione interiore. Anche nel cervello umano esistono funzioni molto complesse che operano senza arrivare alla consapevolezza: il cervelletto, per esempio, coordina movimenti articolati senza che la persona percepisca i calcoli necessari a realizzarli.

L’empatia può essere soltanto imitata

Lo stesso principio può essere applicato agli assistenti conversazionali. Un programma è in grado di discutere di felicità, paura o altri stati emotivi, ma l’uso corretto delle parole non prova che quelle emozioni siano vissute dal sistema.

La naturalezza del dialogo può quindi creare un effetto di presenza e di comprensione che non coincide con la coscienza. La riproduzione di pause, intercalari e altri segnali tipici delle conversazioni umane rende l’interazione più credibile, ma resta separata dalla capacità di avere esperienze soggettive.