Algoritmi contro il giudizio umano: cosa rivela il libro sul “rumore

È questa la tesi centrale di “Rumore”, il libro scritto da Daniel Kahneman, Olivier Sibony e Cass R. Sunstein, che esamina i limiti del giudizio professionale e il possibile contributo dell’intelligenza artificiale.

Il giudizio umano non è uniforme

Gli autori distinguono anzitutto tra bias e rumore. I primi sono distorsioni sistematiche, che tendono a ripetersi in condizioni simili; il secondo indica invece la dispersione casuale delle valutazioni. A produrla possono concorrere la personalità, lo stile cognitivo, il diverso peso assegnato agli stessi elementi e l’impiego non uniforme delle scale di giudizio.

Questa variabilità può comparire in numerosi ambiti: dalla giustizia alla medicina, dall’ingegneria all’insegnamento, fino alla selezione del personale, all’editoria, alla gestione aziendale e allo sport. Ogni contesto nel quale sia necessario valutare persone o situazioni porta con sé una quota di complessità e incertezza. Per questo, secondo il libro, il disaccordo non rappresenta un’eccezione, ma una conseguenza frequente dell’attività decisionale.

L’IA può ridurre gli errori?

Da qui nasce la domanda sul ruolo dei sistemi artificiali. Un algoritmo non comprende la realtà e non opera per magia: individua regolarità all’interno dei dati disponibili. Proprio questa impostazione, priva delle oscillazioni personali tipiche degli esseri umani, potrebbe risultare utile in campi come la diagnosi clinica e alcune valutazioni giudiziarie.

Nel volume viene citato il caso dei modelli destinati a stimare il pericolo di fuga di un imputato. Invece di stabilire direttamente se concedere o negare la libertà provvisoria, il sistema attribuisce un punteggio al rischio. La scelta della soglia oltre la quale il pericolo dovrebbe essere considerato inaccettabile resta però una decisione di natura valutativa, che il modello non può determinare autonomamente.

Regole semplici, ma non infallibili

L’uso degli algoritmi non garantisce automaticamente imparzialità. I dati e i criteri incorporati nei sistemi possono produrre risultati discriminatori o riflettere distorsioni già presenti. Allo stesso tempo, il libro osserva che alcuni strumenti possono rivelarsi più precisi dei valutatori umani e, in determinati casi, anche più equi.

La forza del procedimento meccanico viene individuata nella maggiore stabilità delle regole e nella riduzione del rumore. Criteri semplici, purché ragionevoli, possono condurre a esiti più coerenti rispetto a decisioni affidate esclusivamente a valutazioni individuali. Nonostante queste evidenze, l’impiego dell’IA nei giudizi professionali, amministrativi e penali rimane ancora circoscritto, salvo specifiche eccezioni.

ℹ️ Le informazioni contenute in questo articolo hanno scopo puramente informativo e non sostituiscono il parere del medico. Per qualsiasi dubbio sulla tua salute rivolgiti al tuo medico di fiducia.