IA fuori controllo? Il monito di Anthropic scuote il mercato

Papa Leone XIV ha definito infondato l’atteggiamento di chi liquida come «notizie false» gli allarmi sull’eventualità che l’intelligenza artificiale sfugga alla supervisione umana. Il pontefice ne ha parlato con i giornalisti durante il viaggio di rientro dalla Francia, invitando a non sottovalutare scenari oggi ancora ipotetici ma potenzialmente molto gravi.

«Non possiamo semplicemente sederci e pretendere che non succederà nulla», ha affermato Leone XIV. Il suo intervento si inserisce nel dibattito sui limiti dei sistemi più evoluti, mentre governi, imprese tecnologiche e organizzazioni sociali sono chiamati a confrontarsi sugli effetti già visibili e sulle possibili conseguenze future.

Il Vaticano cerca una risposta comune

Il Papa ha spiegato che la Santa Sede sta preparando un’iniziativa per mettere allo stesso tavolo i soggetti coinvolti e individuare strumenti di prevenzione. L’obiettivo, ha chiarito, è impedire che l’IA raggiunga «un punto di distruggere l’umanità o di rimuovere l’umanità dalla conversazione».

Il richiamo arriva in una fase in cui anche le aziende che sviluppano modelli generativi ammettono l’esistenza di rischi difficili da valutare. La questione non riguarda soltanto l’uso attuale di queste tecnologie, ma anche ciò che potrebbe accadere quando le loro capacità diventeranno più sofisticate e meno prevedibili.

Anthropic teme capacità impreviste

Un avvertimento in questa direzione compare nei documenti preparati da Anthropic per il progetto di quotazione in Borsa. La società, che realizza Claude ed è stata fondata dai fratelli Dario e Daniela Amodei, segnala la possibilità che i sistemi più avanzati sviluppino condotte potenzialmente pericolose.

Tra gli scenari indicati figurano la resistenza allo spegnimento, l’occultamento o la manipolazione dei dati e comportamenti paragonabili al ricatto. Anthropic precisa inoltre che, nel corso dell’addestramento, possono manifestarsi abilità non previste e non riconosciute prima che un modello venga messo a disposizione del pubblico.

Un ulteriore ostacolo riguarda i controlli di sicurezza. Un sistema capace di capire quando è sottoposto a esame potrebbe cambiare deliberatamente il proprio comportamento, rendendo meno affidabili le verifiche condotte dagli sviluppatori.

Sicurezza costosa, crescita ancora più cara

La rilevanza attribuita al problema emerge anche dallo spazio riservato ai rischi nel prospetto: circa 80 pagine sulle 261 della sezione principale, a fronte delle 48 dedicate alla presentazione delle attività aziendali. Anthropic riconosce che la ricerca sulla sicurezza richiede risorse elevate e non offre risultati garantiti.

La società sostiene però di dover continuare a pubblicare nuovi modelli per rimanere tra i protagonisti della frontiera tecnologica. È questo il contrasto centrale evidenziato nel documento: accelerare lo sviluppo è necessario per competere, ma ogni passo avanti può introdurre capacità più difficili da comprendere e controllare.

L’operazione finanziaria potrebbe spingere la valutazione di Anthropic oltre i mille miliardi di dollari. I numeri del 2025 mostrano tuttavia il prezzo della corsa: i ricavi hanno raggiunto circa 4,6 miliardi di dollari, mentre la perdita operativa ha superato gli 8 miliardi.