IA e armi autonome: il rischio è perdere il controllo sul futuro

La sfida non riguarda soltanto il predominio tecnologico tra Stati Uniti e Cina. Per Volker Türk, Alto commissario delle Nazioni Unite per i diritti umani, il punto decisivo è impedire che lo sviluppo dell’intelligenza artificiale venga sottratto al controllo democratico e alla responsabilità umana. Il confronto tra governi e aziende, secondo lui, deve ripartire dal dialogo, ma la questione coinvolge ormai ogni Paese e ogni società.

La corsa all’IA chiede regole comuni

Türk ritiene necessario riaprire un canale tra Washington e Pechino, coinvolgendo anche le imprese impegnate nella progettazione dei nuovi sistemi. L’obiettivo non sarebbe soltanto limitare una competizione strategica simile, per alcuni aspetti, alla corsa agli armamenti della Guerra fredda, ma stabilire criteri validi per tutti.

Il commissario non si è però pronunciato per un semplice accordo di non proliferazione modellato su quello nucleare. Dalle sue parole emerge una preoccupazione più ampia: l’IA assumerà forme diverse nei vari contesti e finirà per incidere sulla vita di ogni comunità. Per questo, la sua gestione non può restare nelle mani di pochi governi o grandi gruppi tecnologici.

Le armi autonome oltrepassano la soglia

A preoccupare Türk sono soprattutto i sistemi capaci di agire senza una decisione umana diretta. Se la scelta di colpire viene affidata a una macchina, la violenza rischia di apparire simile a quella di un videogioco, mentre si attenua il legame tra l’azione e chi ne porta la responsabilità.

«Ho chiesto una proibizione totale di quel tipo di arma che sfugge al controllo umano», ha spiegato parlando del futuro dei conflitti. Il timore è che la distanza fisica e psicologica tra chi attacca e chi subisce renda più facile accettare danni irreparabili e trasformi la repressione in un processo automatico.

Secondo Türk, serve una mobilitazione capace di fissare un limite netto: le armi non devono diventare indipendenti dalla capacità delle persone di governarne l’impiego. La coscienza e il giudizio umano, nella sua prospettiva, devono restare al centro di ogni decisione letale.

Potere, lavoro e diritti sotto pressione

L’intelligenza artificiale può rendere più efficienti numerosi settori, contribuire alla cura delle malattie e sostenere la risposta alla crisi climatica. Tuttavia, la sua diffusione può anche incidere sull’autonomia individuale, sull’occupazione, sulle capacità cognitive e su discriminazioni già presenti.

Un esempio riguarda gli studenti. Molti giovani arrivano all’università senza sapere se la preparazione acquisita oggi sarà ancora utile quando entreranno nel mercato del lavoro. Da qui nasce, secondo l’Alto commissario, una domanda che non può essere lasciata agli specialisti: quale tipo di vita sociale vogliamo costruire e come intendiamo rapportarci gli uni agli altri?

Per Türk, aziende e istituzioni pubbliche dovrebbero valutare ogni nuova tecnologia attraverso la lente dei diritti umani. Non basta chiedersi se uno strumento funziona: occorre capire chi potrà accedervi, chi ne subirà le conseguenze e se rafforzerà squilibri già profondi tra persone, territori e aree del mondo.

Energia, sorveglianza e disuguaglianze

La crescita dei centri dati richiede sempre più elettricità e acqua, proprio mentre gli effetti del riscaldamento globale diventano più evidenti. Türk mette quindi in discussione le priorità degli investimenti: bisogna stabilire se queste infrastrutture debbano prevalere su interventi destinati ad affrontare la crisi climatica.

Un ulteriore interrogativo riguarda l’uso concreto di tali impianti e dei sistemi che alimentano. Se gli strumenti sperimentali escono dagli ambienti controllati, potrebbero essere impiegati per sorvegliare la popolazione o per esasperare divisioni sociali, con conseguenze sulle libertà democratiche.

L’esperienza dei social media mostra già quanto gli effetti delle tecnologie possano variare in base all’età, al genere, alla disabilità o all’origine delle persone. A giudizio di Türk, il confronto sulla tutela dei minori è iniziato troppo tardi: non necessariamente la soluzione consiste nel vietare queste piattaforme, ma è indispensabile misurarne con maggiore attenzione l’impatto.

Ai giovani il compito di reagire

La frustrazione degli studenti e la paura di non avere un futuro professionale possono trasformarsi in rassegnazione. Türk invita invece i ragazzi a partecipare alla vita pubblica, a informarsi e a non lasciare che altri decidano il destino delle loro menti o il modo in cui l’IA verrà utilizzata.

Il riferimento è alle mobilitazioni del 2019 legate a Fridays for Future, quando molti giovani protestarono per chiedere interventi sul clima e sulla protezione dell’ambiente. Il commissario considera quella esperienza un modello possibile anche per la discussione sull’intelligenza artificiale.

«Siamo noi a decidere il nostro futuro, non qualcun altro», ha detto rivolgendosi soprattutto alle nuove generazioni. Il potere, nella sua lettura, non va consegnato né alle macchine né alle grandi aziende, agli oligarchi, ai miliardari, ai populisti o agli autocrati.

La conversazione con Türk si è svolta a Ginevra, nel suo secondo mandato alla guida dell’ufficio dell’Onu per i diritti umani. Il suo messaggio complessivo è che l’innovazione non debba essere fermata, ma orientata verso un modello capace di estendere, invece di restringere, le garanzie fondamentali.