Intelligenza artificiale, chi decide per noi? La Carta dei diritti cognitivi

Il confine tra autonomia e dipendenza digitale passa anche da gesti apparentemente ordinari: usare un profilo online, chiedere un finanziamento o accedere a un servizio pubblico. Stefano Epifani e Mauro Minenna sostengono di aver coinvolto diversi sistemi di intelligenza artificiale nella discussione e nella revisione del loro libro, trasformando così la tecnologia osservata in uno degli strumenti del confronto. Il volume, intitolato «Sudditi digitali. Dialoghi sulla sovranità cognitiva», sarà disponibile dal 23 ottobre per Digital Transformation Institute.

La libertà oltre il profilo statistico

Uno dei nodi affrontati riguarda la possibilità di non restare prigionieri delle previsioni costruite sui nostri comportamenti passati. Un modello potrebbe giudicare improbabile un cambiamento professionale o un miglioramento della situazione economica; se quel responso condizionasse le occasioni future, finirebbe per rendere più rigide le disuguaglianze già esistenti.

La sovranità, secondo gli autori, comprende anche il diritto a non essere definiti una volta per tutte dai dati. Comprendere il funzionamento di una macchina non basta: quando il suo esito produce conseguenze rilevanti, servono soggetti riconoscibili, verifiche e procedure capaci di correggere gli errori.

Un account non è una concessione

La sospensione di un account può interrompere rapporti personali, attività lavorative e reputazione. Per questo il libro richiama l’idea di un «habeas corpus digitale»: chi viene escluso da uno spazio online dovrebbe ricevere una motivazione e disporre di un ricorso rapido, prima che il danno diventi difficile da riparare. Una tutela di questo tipo è già prevista dalle norme europee.

Il problema non riguarda soltanto le piattaforme private. Un prestito rifiutato da un sistema automatico o una pratica amministrativa accessibile soltanto tramite prenotazione telematica mostrano come l’accesso ai diritti possa dipendere da procedure spesso poco comprensibili. Se il digitale diventa l’unico canale, le barriere economiche, culturali e tecniche rischiano di colpire proprio le persone più fragili.

Chi governa ciò che vediamo

Il potere delle grandi aziende tecnologiche non si limita alla gestione di reti e servizi. I loro sistemi stabiliscono quali contenuti compaiono sullo schermo, secondo quali criteri vengono valutati gli utenti e quali informazioni arrivano a ciascuno. La selezione avviene spesso prima ancora che la persona possa scegliere che cosa leggere o approfondire.

Gli autori distinguono tre piani: il controllo di infrastrutture come reti, chip e centri di elaborazione; la facoltà di raccogliere e impiegare i dati; infine la dimensione cognitiva, che riguarda il modo in cui quelle informazioni diventano suggerimenti, graduatorie, valutazioni e decisioni. È quest’ultimo livello a incidere più direttamente sulla capacità di orientarsi e scegliere.

La questione tocca anche la democrazia. Il 20 ottobre quattro parlamentari democratici statunitensi hanno scritto ai vertici di 25 società tecnologiche, tra cui OpenAI, Google, Meta e Anthropic, chiedendo maggiore chiarezza e controlli sui contenuti elettorali forniti dai chatbot basati sull’intelligenza artificiale. In vista delle elezioni di metà mandato del 3 novembre, il timore è che risposte inaccurate o deformate su candidati e modalità di voto possano influenzare la partecipazione.

La Carta prova a fissare garanzie

Nel volume, otto personaggi dai nomi dell’antichità discutono situazioni contemporanee attraverso undici dialoghi ispirati alla forma platonica. Dedalo interpreta il tecnico, Solone il giurista, Ipazia la filosofa, Creonte il politico, mentre Filemone e Bauci rappresentano i cittadini. Le loro conversazioni si svolgono in ambienti comuni, come cucine e uffici, dove le decisioni informatiche mostrano gli effetti più concreti.

Trasimaco difende la prospettiva delle piattaforme e ricorda i vantaggi prodotti dalla connessione tra persone e dalla maggiore disponibilità di informazioni. Alcibiade, invece, incarna l’utente consapevole dei rischi ma riluttante a rinunciare a strumenti da cui possono dipendere contatti, lavoro e visibilità. Il libro non propone quindi un rifiuto della tecnologia: mette in discussione la possibilità che l’utilità di un servizio basti a giustificare regole fissate senza confronto.

Dai dialoghi prende forma una proposta di Carta dei diritti cognitivi del cittadino, articolata in dieci punti e presentata come testo aperto. Tra le garanzie indicate figurano il pluralismo delle fonti, la protezione dello spazio mentale e la trasparenza dei meccanismi che decidono quali contenuti sottoporre all’attenzione degli utenti.

La Carta richiama inoltre il diritto di sapere quando si interagisce con una macchina, di riconoscere un’immagine o un audio generati artificialmente e di ottenere spiegazioni comprensibili sulle decisioni automatizzate. Quando un esito incide in modo significativo sulla vita di una persona, dovrebbe essere possibile sottoporlo al giudizio umano, affidandosi a qualcuno che abbia l’autorità concreta di modificarlo.

Dalla consapevolezza al controllo

Epifani, presidente della Fondazione per la Sostenibilità Digitale, e Minenna, direttore generale di Aci Informatica e già responsabile della trasformazione digitale a Palazzo Chigi, descrivono una concentrazione di potere cresciuta insieme alle piattaforme. La loro analisi non riguarda soltanto gli strumenti tecnici, ma il rapporto tra decisioni private, diritti individuali e controllo democratico.

Gli autori presentano la Carta come una base di discussione, non come una legge già pronta. Resta da capire come trasformare principi condivisibili in rimedi utilizzabili: conoscere la ragione di una decisione automatica è soltanto l’inizio, mentre correggere un’ingiustizia richiede responsabilità definite, controlli indipendenti e ricorsi davvero accessibili.

Il tema della sovranità cognitiva nasce dunque dalla domanda su quanto sia ancora libera una scelta quando sistemi opachi decidono ciò che possiamo vedere, sapere o fare. Il cittadino non deve necessariamente rinunciare alle macchine, ma deve poter comprendere il loro funzionamento, contestarne gli esiti e stabilire quando affidarsi a esse.