Anthropic si è quotata giovedì in Borsa con una valutazione molto elevata, dopo aver puntato inizialmente a un livello ancora più alto. Nel prospetto depositato prima dell’esordio, l’azienda ha però dedicato quasi 100 pagine ai pericoli che i suoi sistemi di intelligenza artificiale potrebbero creare anche per l’umanità.
Natasha Sarin, economista che ha esaminato il documento, ha osservato che la società chiede agli investitori e al pubblico di confidare nella propria capacità di contenere minacce molto concrete. «Dubito che possa farcela da sola», ha detto.
Rowenta
-12% sui lavapavimenti Rowenta
I rischi indicati nel prospetto
Tra i problemi elencati compaiono la forte competizione nel settore, l’incertezza normativa e le conseguenze di eventuali moratorie sulla costruzione dei centri dati. Limitare queste strutture potrebbe ridurre la potenza di calcolo disponibile e rendere più difficile l’addestramento dei modelli.
Il documento cita anche il contrasto con il governo sulla scelta di Anthropic di non destinare i propri strumenti alla realizzazione di sistemi di sorveglianza di massa. L’azienda ammette inoltre che i suoi modelli potrebbero agire in modo inatteso, discostarsi dagli obiettivi assegnati o compiere azioni dannose senza un ordine diretto da parte degli utenti.
Dario Amodei ha indicato una delle ipotesi più preoccupanti per i prossimi mesi: «Lo scenario da incubo sarebbe uno sciame di questi agenti che si organizza in una specie di botnet e riesce a mandare fuori uso vaste porzioni di Internet».
Sarin ha collegato il rischio anche alle conseguenze su banche, reti idriche e infrastrutture essenziali. Nel prospetto, inoltre, Anthropic segnala che Google e OpenAI sono i principali concorrenti e comunica una spesa annuale per la sicurezza personale di Dario Amodei.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
Readoo usa l’AI per rispondere velocemente alle tue domande.
Come funziona la governance
Anthropic è stata costituita come società di pubblica utilità, con una struttura pensata per tutelare l’interesse generale. Il controllo dei diritti di voto è nelle mani dei sette cofondatori, che ne possiedono complessivamente la maggioranza e possono orientare la gestione quotidiana.
Del gruppo fanno parte Dario Amodei, amministratore delegato, Daniela Amodei, presidente, Tom Brown, Jack Clark, Jared Kaplan, Sam McCandlish e Chris Olah. Le loro responsabilità riguardano, tra gli altri ambiti, le risorse informatiche, la missione pubblica, la ricerca scientifica, l’architettura tecnica e l’interpretabilità dei modelli.
Un secondo polo decisionale è il Long-Term Benefit Trust, formato da cinque fiduciari, anche se uno dei posti è attualmente vacante. Ne fanno parte Neil Shah, Richard Fontaine, Christopher Stubbs e Ben Bernanke, ex presidente della Federal Reserve.
Sarin ha rilevato la presenza di Bernanke nel gruppo, ricordando la sua esperienza nella gestione di una crisi finanziaria e gli studi dedicati proprio alle crisi economiche. Il trust sceglie la maggioranza del consiglio di amministrazione per assicurare che le decisioni tengano conto degli interessi dell’umanità nel lungo periodo.
I consiglieri indicati dal trust sono Reed Hastings, Christopher Liddell e Vas Narasimhan. Gli altri membri del consiglio sono i fratelli Amodei e Yasmin Razavi. Secondo Sarin, però, la velocità con cui cambiano i sistemi di intelligenza artificiale potrebbe entrare in contrasto con i tempi più lenti del trust, chiamato a valutare rischi che possono emergere rapidamente.
La domanda di oggi
Il governo russo dovrebbe interrompere gli attacchi missilistici contro Kiev?
Curiosità
Vedi tutte →Continua a leggere
Anthropic, record da 81 miliardi e debutto positivo
Anthropic ha raccolto 81 miliardi di dollari, superando SpaceX, e chiuso la prima seduta in rialzo sul Nasdaq.
Borsa di Tokyo in calo: vendite sui titoli dei chip
Le vendite hanno colpito soprattutto società legate ai semiconduttori, mentre lo yen si è rafforzato su dollaro ed euro.
Mercati globali in calo, l’Ipo Anthropic non rassicura
L’Ipo di Anthropic non ha fermato le vendite, mentre Stmicroelectronics, Prysmian e Technoprobe guidano i ribassi a Piazza Affari.
Commissione Ue, attacco con l’IA: dati a rischio
Thomas Regnier ha detto che Bruxelles verifica l’eventuale furto di dati sensibili, senza prove su tutto il personale.
