AI, la vera sfida non è la macchina: è chi la usa

Il rischio non riguarda soltanto ciò che una macchina potrebbe fare in futuro. Un algoritmo può infatti riproporre e persino accentuare disuguaglianze già esistenti, trasformando un pregiudizio in un risultato apparentemente neutro e oggettivo. Per Donatella Sciuto, rettrice del Politecnico di Milano, la questione decisiva resta dunque la responsabilità umana.

La fatica resta una risorsa

Delegare ogni attività a un sistema automatico può far perdere l’allenamento necessario per affrontare problemi nuovi. Scrivere, sbagliare, correggere e riprovare non sono passaggi superflui: contribuiscono a formare competenze che rimangono utili anche quando cambiano gli strumenti.

Sciuto considera quindi lo studio una condizione dell’autonomia, non un ostacolo da superare in fretta. «Il pensiero critico non si impara con un tutorial», ha spiegato, sottolineando che il tempo risparmiato dall’intelligenza artificiale avrà un valore soltanto se sarà possibile decidere come impiegarlo e se i benefici saranno accessibili a tutti.

Tre difese contro gli errori

La prima cautela consiste nel non scambiare una risposta ben formulata per una risposta esatta. I chatbot possono produrre dati falsi, inventare riferimenti e sostenere con sicurezza conclusioni sbagliate; verificare diventa indispensabile, ma per farlo occorre possedere almeno una conoscenza di base dell’argomento.

La seconda regola riguarda il modo di interrogare questi strumenti. Una richiesta generica può essere trasformata in un esercizio più utile, chiedendo una spiegazione semplice, un esempio concreto e alcune domande finali per controllare la comprensione. La terza possibilità è usare l’AI come interlocutore critico, chiedendole di individuare debolezze e obiezioni a un ragionamento elaborato personalmente.

I rischi non sono fantascienza

Sciuto non aderisce né alle previsioni sull’estinzione dell’umanità entro dieci anni, associate a Evan Hubinger di Anthropic, né alla rappresentazione di una tecnologia destinata ad accudire gli esseri umani come un «Labrador domestico», nella metafora provocatoria di Elon Musk. A suo avviso bisogna separare i pericoli verificabili dalle ipotesi più estreme.

Tra le minacce già riconoscibili indica la manipolazione delle informazioni e l’accumulo di influenza presso un numero ristretto di grandi imprese. La ricerca non può essere bloccata, ma le applicazioni capaci di incidere sulla vita di milioni di persone dovrebbero arrivare all’uso dopo controlli severi, con una logica paragonabile alle fasi di verifica previste per i farmaci.

Chi risponde dei danni

Anche quando un sistema diventa molto complesso, la responsabilità non può essere attribuita alla macchina. Bisogna risalire a chi lo ha progettato, a chi lo ha sviluppato e a chi ne ha autorizzato la diffusione, stabilendo conseguenze precise in caso di violazioni o danni.

La rettrice ritiene inoltre necessario diffondere una preparazione di base sull’intelligenza artificiale tra i cittadini. Non serve trasformare tutti in informatici, ma è essenziale comprendere almeno il funzionamento generale, i limiti e i possibili effetti degli strumenti utilizzati ogni giorno.

Dalla medicina alle aule

Sciuto vede opportunità rilevanti soprattutto nella sanità. L’AI può esaminare enormi quantità di dati clinici, contribuire a riconoscere prima alcune patologie, sostenere la ricerca sui farmaci e rendere più mirate le terapie. Applicazioni di questo tipo sono già presenti nell’oncologia, nella lettura delle immagini diagnostiche e nello studio delle malattie cardiovascolari.

In questo quadro, la tecnologia dovrebbe affiancare il medico, non sostituirlo. «La tecnologia migliore non è quella che pensa al posto nostro, ma quella che ci aiuta a pensare meglio», ha osservato la rettrice, indicando un principio valido anche per l’istruzione.

Il progetto del Politecnico

Al Politecnico di Milano l’intelligenza artificiale viene studiata dagli anni Settanta e oggi trova applicazione in ambiti che vanno dalla biomedicina alla mobilità, dall’energia alla progettazione. Per gli studenti del primo anno è previsto un insegnamento facoltativo dedicato all’uso dell’AI nello studio; l’ateneo ha inoltre sviluppato AI Book e messo online corsi e strumenti destinati a più discipline.

L’obiettivo è formare utenti capaci di trattare l’AI come un assistente, mantenendo però il controllo delle decisioni. Sciuto interverrà su questi temi al Women Economic Forum Italy, in programma a Torino dal 24 al 26 ottobre, durante la sessione dedicata all’istruzione nell’epoca dell’intelligenza artificiale. La sua posizione è netta: non si tratta di scegliere tra entusiasmo e paura, ma di costruire conoscenze sufficienti per governare una trasformazione che non può essere semplicemente rallentata.