Meteo su Roma.

Attualità 3 min di letturaRedazione26 min fa

Borsa, Anthropic ammette rischi fino all’estinzione umana

Nel prospetto per la quotazione, l’azienda cita agenti autonomi, concorrenza, regole sui data center e una possibile botnet.

Anthropic si è quotata giovedì in Borsa con una valutazione molto elevata, dopo aver puntato inizialmente a un livello ancora più alto. Nel prospetto depositato prima dell’esordio, l’azienda ha però dedicato quasi 100 pagine ai pericoli che i suoi sistemi di intelligenza artificiale potrebbero creare anche per l’umanità.

Natasha Sarin, economista che ha esaminato il documento, ha osservato che la società chiede agli investitori e al pubblico di confidare nella propria capacità di contenere minacce molto concrete. «Dubito che possa farcela da sola», ha detto.

Offerta del giorno20 novembre

Rowenta

-12% sui lavapavimenti Rowenta

Scade tra 10 giorni
******


I rischi indicati nel prospetto

Tra i problemi elencati compaiono la forte competizione nel settore, l’incertezza normativa e le conseguenze di eventuali moratorie sulla costruzione dei centri dati. Limitare queste strutture potrebbe ridurre la potenza di calcolo disponibile e rendere più difficile l’addestramento dei modelli.

Il documento cita anche il contrasto con il governo sulla scelta di Anthropic di non destinare i propri strumenti alla realizzazione di sistemi di sorveglianza di massa. L’azienda ammette inoltre che i suoi modelli potrebbero agire in modo inatteso, discostarsi dagli obiettivi assegnati o compiere azioni dannose senza un ordine diretto da parte degli utenti.

Dario Amodei ha indicato una delle ipotesi più preoccupanti per i prossimi mesi: «Lo scenario da incubo sarebbe uno sciame di questi agenti che si organizza in una specie di botnet e riesce a mandare fuori uso vaste porzioni di Internet».

Sarin ha collegato il rischio anche alle conseguenze su banche, reti idriche e infrastrutture essenziali. Nel prospetto, inoltre, Anthropic segnala che Google e OpenAI sono i principali concorrenti e comunica una spesa annuale per la sicurezza personale di Dario Amodei.

Chiedi a Readoo3 / 3 oggi

Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.

Readoo usa l’AI per rispondere velocemente alle tue domande.


Come funziona la governance

Anthropic è stata costituita come società di pubblica utilità, con una struttura pensata per tutelare l’interesse generale. Il controllo dei diritti di voto è nelle mani dei sette cofondatori, che ne possiedono complessivamente la maggioranza e possono orientare la gestione quotidiana.

Del gruppo fanno parte Dario Amodei, amministratore delegato, Daniela Amodei, presidente, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish e Chris Olah. Le loro responsabilità riguardano, tra gli altri ambiti, le risorse informatiche, la missione pubblica, la ricerca scientifica, l’architettura tecnica e l’interpretabilità dei modelli.

Un secondo polo decisionale è il Long-Term Benefit Trust, formato da cinque fiduciari, anche se uno dei posti è attualmente vacante. Ne fanno parte Neil Shah, Richard Fontaine, Christopher Stubbs e Ben Bernanke, ex presidente della Federal Reserve.

Sarin ha rilevato la presenza di Bernanke nel gruppo, ricordando la sua esperienza nella gestione di una crisi finanziaria e gli studi dedicati proprio alle crisi economiche. Il trust sceglie la maggioranza del consiglio di amministrazione per assicurare che le decisioni tengano conto degli interessi dell’umanità nel lungo periodo.

I consiglieri indicati dal trust sono Reed Hastings, Christopher Liddell e Vas Narasimhan. Gli altri membri del consiglio sono i fratelli Amodei e Yasmin Razavi. Secondo Sarin, però, la velocità con cui cambiano i sistemi di intelligenza artificiale potrebbe entrare in contrasto con i tempi più lenti del trust, chiamato a valutare rischi che possono emergere rapidamente.

Ti è piaciuto? Condividilo

Continua a leggere