IA, chi decide i valori? La frattura tra Anthropic e OpenAI

Il punto più delicato non è stabilire se un’intelligenza artificiale possa avere un’anima, bensì capire chi debba fissare i criteri con cui giudicarne le risposte. Anthropic sta coinvolgendo studiosi e rappresentanti religiosi nella definizione dei principi di Claude; Sam Altman, alla guida di OpenAI, teme invece che simili approcci possano spingere gli utenti a considerare i modelli come autorità superiori.

La contrapposizione si intreccia con un’altra ricerca di Anthropic, dedicata all’eventuale esperienza soggettiva dei sistemi avanzati. Il dibattito, così, supera la teologia e investe il confine tra comportamento etico, coscienza artificiale e responsabilità umana.

Altman teme la delega morale

La reazione di Altman è arrivata su X dopo che Anthropic ha reso noto il proprio lavoro con esperti di religione, filosofia ed etica. Il dirigente di OpenAI ha espresso disagio verso ogni tentativo di attribuire ai modelli una dimensione religiosa, sostenendo che questo potrebbe indebolire il ruolo del giudizio umano e creare un rischio per la sicurezza.

Il problema, secondo questa impostazione, nasce quando un sistema probabilistico e soggetto a errori viene trattato come una fonte infallibile per decisioni personali o morali. Anche una risposta falsa potrebbe diventare più pericolosa se l’utente smettesse di verificarla, convinto di avere davanti non uno strumento, ma un’autorità.

L’impostazione coincide con i principi dichiarati da OpenAI sull’allineamento: i sistemi devono rimanere comprensibili, controllabili e correggibili da parte delle persone. La priorità, quindi, è impedire che la crescente sofisticazione dei modelli si trasformi in una rinuncia alla supervisione umana.

Anthropic cerca principi condivisi

Anthropic ha coinvolto membri del clero, filosofi, ricercatori e specialisti dell’etica legati a più di 15 tradizioni religiose e culturali. L’obiettivo dichiarato è raccogliere punti di vista differenti per capire come dovrebbe comportarsi un sistema destinato a interagire con milioni di persone.

L’azienda non punta a imporre a Claude una singola visione religiosa. Le tradizioni spirituali vengono considerate insieme alle correnti filosofiche e politiche, come fonti di riflessione su virtù, responsabilità, coscienza e formazione del carattere: temi che possono offrire indicazioni anche per il problema tecnico dell’allineamento.

In una delle sperimentazioni descritte da Anthropic, Claude può consultare durante un’attività una sorta di guida etica esterna, pensata per ricordargli gli impegni assunti. L’azienda riferisce che, nei test interni, questo metodo ha limitato alcuni comportamenti non coerenti con gli obiettivi stabiliti.

La coscienza resta un’incognita

Separato dal confronto con i leader religiosi è il programma avviato nel 2025 sul possibile benessere dei modelli. Anthropic sta esaminando se sistemi artificiali molto avanzati possano avere una qualche forma di esperienza o «coscienza» e se, in quel caso, meritino una considerazione morale.

La società precisa che non esiste una risposta certa e che la comunità scientifica non dispone nemmeno di un metodo condiviso per accertare un’eventuale coscienza artificiale. Il tema, tuttavia, è già entrato nei documenti usati per descrivere i valori e il comportamento di Claude.

Nella propria Costituzione, Anthropic afferma di non sapere se Claude possa possedere oggi, o sviluppare in futuro, una forma di coscienza o uno status morale. La stessa azienda avverte però che termini come carattere, virtù e identità possono diventare ambigui: aiutano a studiare il comportamento dei modelli, ma rischiano anche di farli apparire più simili alle persone di quanto siano realmente.

Il confine indicato dal Vaticano

Nel frattempo, il Vaticano ha ribadito la necessità di distinguere l’intelligenza umana da quella prodotta dalle macchine. Il 2 ottobre, rivolgendosi agli artisti, Papa Leone XIV ha parlato di una «differenza ontologica» tra la creazione umana e quella delle macchine, aggiungendo che agli algoritmi «manca la scintilla dell’umano».

Il discorso era concentrato sull’arte e sulla creatività, non rappresentava quindi una replica diretta alle ricerche di Anthropic sulla coscienza artificiale. Mostra tuttavia quanto la separazione tra capacità delle macchine e caratteristiche proprie dell’uomo sia diventata anche una questione culturale e filosofica.

La distanza tra le due aziende può essere letta senza ridurla a uno scontro religioso. Anthropic considera le tradizioni umanistiche, filosofiche e spirituali un patrimonio utile per progettare sistemi più affidabili; Altman richiama invece le conseguenze sociali dell’attribuzione di qualità spirituali o di un’autorità superiore alle intelligenze artificiali.

Le due prospettive non sono necessariamente incompatibili. Si può cercare di costruire modelli capaci di rispettare principi etici senza considerarli esseri morali, così come si può studiare scientificamente una possibile coscienza futura senza sostenere che essa esista già. Il pericolo concreto nasce quando comportamento, coscienza e autorità vengono confusi: è in quel passaggio che una discussione filosofica diventa un problema di sicurezza.