IA, il paradosso della conoscenza: perché può sbagliare senza capire

L’intelligenza artificiale può offrire risultati convincenti senza possedere una reale comprensione di ciò che produce. È questo il paradosso al centro del libro di Fortunato Costantino, che richiama anche un problema decisivo: «chi risponde dei danni da intelligenza artificiale»? La domanda, posta dal giurista Giuseppe Cassano, riguarda una catena di responsabilità ancora difficile da definire.

Un sapere senza comprensione

Nel confronto sull’IA, Costantino ha descritto questi sistemi come «potenti strumenti di elaborazione statistica». La loro efficacia deriva dalla capacità di individuare schemi e formulare l’esito più plausibile, non da una consapevolezza paragonabile a quella umana.

L’autore li ha definiti anche «un pappagallo stocastico», perché tendono a riproporre la risposta statisticamente più probabile. Il rischio, secondo Costantino, è che l’utente scambi una formulazione ben costruita per un contenuto necessariamente corretto e verificato.

Il nodo della responsabilità

Cassano, co-direttore degli Stati generali del diritto di Internet e dell’IA alla Luiss, ha osservato che l’eventuale responsabilità può estendersi dall’utilizzatore finale fino a chi ha realizzato il sistema. Stabilire il punto esatto della colpa resta però complesso.

A rendere più difficile il quadro è anche la distanza tra l’evoluzione tecnologica e quella normativa. Le regole attuali, ha spiegato il giurista, sono state concepite per un ritmo di cambiamento «assolutamente diverso» da quello imposto oggi dall’intelligenza artificiale.

L’utente deve interpretare

La discussione si è svolta a Roma, al Palazzo delle Esposizioni, in occasione della presentazione di “Sa tutto, o quasi, ma non capisce nulla”, volume scritto da Costantino, professore dell’European School of Economics, in dialogo con Cassano.

Per l’autore, la vera competenza richiesta dal futuro non consisterà soltanto nell’utilizzare questi strumenti, ma nel saper interpretare i segni, i simboli e i codici che restituiscono. La comprensione, dunque, rimane legata alla capacità umana di attribuire significato: «il primato umano del senso è ciò che ci salverà».