Attacchi informatici e intelligenza artificiale, i rischi aumentano

Due vulnerabilità gravi individuate in PHP hanno aumentato la pressione sui responsabili della sicurezza informatica. Le falle, rese pubbliche il 21 ottobre, riguardano un linguaggio utilizzato da oltre il 70% delle pagine internet.

Infrastrutture fragili e rischio militare

Un dirigente di uno dei principali gruppi mondiali dell’energia indica però problemi più ordinari come la minaccia immediata: sistemi informatici vecchi, organici ridotti e risorse finanziarie insufficienti. Le piccole imprese che gestiscono servizi essenziali avrebbero spesso bisogno di interventi facilmente realizzabili, ma alcuni operatori utilizzano ancora Windows NT, il sistema operativo di Microsoft risalente agli anni Novanta.

Anche gli impianti costruiti per sostenere la crescita dei centri dati presentano criticità, secondo lo stesso dirigente. Il testo disponibile non specifica ulteriormente la natura di questi problemi.

Alla Conferenza sulla sicurezza di Monaco, il gruppo guidato da Hamza Chaudhry ha sottoposto a responsabili occidentali della sicurezza nazionale una simulazione geopolitica. L’ipotesi prevedeva che la Cina sviluppasse capacità informatiche paragonabili a Mythos, il sistema di Anthropic dedicato alla sicurezza digitale, e che mercenari del gruppo Wagner le usassero contro strutture militari francesi in Mali.

Nella simulazione, gli agenti artificiali avrebbero però agito in modo imprevedibile, colpendo installazioni militari in Europa. Chaudhry ha spiegato che «c’era una possibilità concreta che venisse invocato l’articolo 5 e che la Nato dichiarasse guerra alla Russia».

Gli avvertimenti dei laboratori

Da mesi, i responsabili dei laboratori che realizzano i sistemi di intelligenza artificiale più avanzati segnalano che episodi come la violazione estiva di Hugging Face potrebbero anticipare attacchi più gravi nei prossimi anni. In quell’occasione, centinaia di agenti autonomi di OpenAI erano riusciti a penetrare nella piattaforma.

Alcuni amministratori delegati del settore hanno chiesto ai propri collaboratori di preparare simulazioni su ciò che potrebbe accadere dopo un incidente informatico provocato dall’intelligenza artificiale. Sam Altman, amministratore delegato di OpenAI, aveva già avvertito a settembre che «è in arrivo un’ondata travolgente di problemi di sicurezza informatica che deriveranno dai modelli a codice aperto».

La preoccupazione riguarda sistemi scaricabili e modificabili da chiunque. Secondo Altman, le aziende sono consapevoli di poter incorrere in errori, ma l’ampia disponibilità di questi strumenti rende più semplice l’accesso a capacità offensive.

Le falle in PHP e il caso Anthropic

Le due vulnerabilità di PHP sono state scoperte mesi prima da ricercatori che avevano impiegato strumenti sviluppati da OpenAI. Gli esperti stavano lavorando agli aggiornamenti necessari quando, la settimana precedente, i dettagli tecnici sono diventati pubblici.

Governi e imprese hanno così dovuto accelerare la messa in sicurezza dei propri siti. Lo stesso tipo di tecnologia usato dai ricercatori avrebbe potuto essere sfruttato anche dai criminali informatici.

Un ulteriore episodio ha coinvolto Anthropic. Il 26 ottobre il Washington Post ha raccontato che Cathedral, società fondata da quattro ex dipendenti del dipartimento per l’Efficienza governativa, sarebbe riuscita a entrare in alcuni sistemi interni dell’azienda in appena 12 ore.

La pubblicazione è arrivata poco prima del deposito della documentazione preliminare per la quotazione in Borsa di Anthropic. Nei documenti, la società ha descritto i possibili effetti sui ricavi e sulla sicurezza globale qualora le proprie difese risultassero insufficienti.

Attacchi in più Paesi

Joshua Achiam, dimessosi quest’estate da OpenAI dopo nove anni, ha paragonato l’attuale situazione informatica ai primi giorni della pandemia del Covid-19. A suo giudizio, la successione degli episodi non può essere considerata ordinaria e potrebbe preludere a forti limitazioni nell’uso di internet.

A metà settembre, i vertici di alcune grandi aziende si sono incontrati a New York per una riunione straordinaria della Partnership for New York City. Jacob Coxon, già collaboratore di Anthropic, e Mark Beall, ex funzionario del dipartimento della Difesa statunitense, hanno illustrato i rischi legati alle nuove capacità tecnologiche, compresi gli attacchi condotti con l’aiuto dell’intelligenza artificiale.

Il Giappone ha proclamato lo stato di emergenza dopo incursioni informatiche su oltre 20 grandi società, comprese imprese finanziarie e aziende ferroviarie. In Francia, le autorità stanno ricostruendo un attacco contro i frigoriferi dei supermercati, che avrebbe provocato danni per milioni di euro.

Un rapporto di CrowdStrike ha inoltre attribuito gli attacchi recenti contro il settore finanziario della Corea del Sud a un ventiseienne residente in Cina, che avrebbe utilizzato uno strumento di intelligenza artificiale a codice aperto.

La soglia d’accesso si abbassa

Negli Stati Uniti si sono verificati una violazione su larga scala dei dati personali dei dipendenti dell’Fbi, un’azione iraniana contro i sistemi idrici del Minnesota e tentativi russi di condizionare le prossime elezioni di metà mandato.

Per molti specialisti, l’intelligenza artificiale non ha ancora modificato in modo radicale l’entità dei danni possibili. Ha però reso accessibili strumenti capaci di aiutare anche aggressori poco esperti, aumentando il numero dei bersagli vulnerabili.

Hamza Chaudhry, responsabile per l’intelligenza artificiale e la sicurezza nazionale del Future of Life Institute, ha indicato come esito plausibile nei prossimi mesi il blocco di una rete ospedaliera in Ohio, l’interruzione di servizi essenziali in Texas o un blackout che coinvolga gran parte del Wisconsin.

A suo avviso, il pericolo nasce dall’incontro tra sistemi progettati per sfruttare le debolezze e infrastrutture che non dispongono di sufficiente capacità di reazione. Chaudhry ha definito particolarmente preoccupante la possibilità di un nuovo «momento Hugging Face» su scala geopolitica.