Muse, il buco nei link: 6.800 chat potevano riemergere online

Un semplice collegamento poteva bastare per raggiungere conversazioni che gli utenti di Muse, l’assistente di intelligenza artificiale di Meta, pensavano di aver condiviso solo con destinatari precisi. Claroc, società attiva nella sicurezza informatica, ha individuato più di 6.800 indirizzi in un archivio accessibile online e, analizzandone alcune centinaia, ha trovato anche informazioni bancarie e documenti professionali confidenziali.

La vicenda non riguarda tutte le chat create con Muse, ma esclusivamente quelle che gli utenti avevano deciso di condividere. Dopo le richieste di chiarimento di Ars Technica, Meta ha comunicato il 20 ottobre la sospensione della funzione. Claroc ha poi controllato 40 pagine già raggiungibili, verificando che erano state rese inaccessibili.

Il meccanismo che esponeva le conversazioni

Muse crea per ogni chat condivisa un indirizzo composto dal titolo della conversazione e da una sequenza casuale. Quest’ultima dovrebbe rendere il collegamento difficile da individuare senza averlo ricevuto direttamente, ma viene inserita nella parte dell’indirizzo che il sistema DNS comunica ai server incaricati di trovare il sito richiesto.

Alcuni servizi registrano proprio queste richieste e le conservano in archivi consultabili. In questo modo, anche il codice pensato per proteggere la conversazione può diventare ricercabile. Gli specialisti di Claroc hanno utilizzato strumenti disponibili in rete e competenze informatiche di base per risalire al dominio impiegato da Meta e ricostruire i collegamenti alle pagine.

Una volta ottenuti gli indirizzi, l’apertura delle conversazioni non richiedeva procedure sofisticate: era sufficiente utilizzare un normale programma per navigare in rete. Il risultato della ricerca comprendeva oltre 6.800 collegamenti, accompagnati dai titoli delle rispettive chat.

Dai prestiti alle frodi bancarie

Tra i contenuti esaminati dai ricercatori comparivano una domanda di finanziamento per una piccola impresa, un documento sui ricavi destinato all’amministratore delegato di una società, note preparatorie per una riunione riservata e un promemoria relativo a una possibile frode bancaria.

Il rischio nasce dal modo in cui era stata progettata la condivisione, non da un accesso generalizzato a tutte le conversazioni degli utenti. Chi inviava il collegamento utilizzava infatti una funzione prevista dall’assistente, ma il sistema trasformava un indirizzo destinato a un singolo destinatario in una risorsa che poteva essere rintracciata anche da estranei.

Asaf Aprozper, cofondatore e responsabile tecnico di Claroc, ha riferito di aver informato Meta l’8 ottobre attraverso il programma dell’azienda dedicato alle segnalazioni di vulnerabilità. Ha inoltre tentato di raggiungere i referenti del gruppo tramite LinkedIn, senza ottenere risposta.

Le cautele per chi usa l’intelligenza artificiale

Muse era stato presentato da Meta l’8 settembre scorso. L’assistente può redigere messaggi di posta elettronica e fissare appuntamenti sfruttando le applicazioni a cui l’utente gli ha concesso l’accesso; per questo le conversazioni possono contenere elementi personali, dati finanziari o informazioni legate al lavoro.

Prima di condividere una chat è quindi importante verificare chi potrà aprire il collegamento e se esiste un sistema per revocarlo. Per i materiali riservati è preferibile ricorrere a strumenti che limitino l’accesso a utenti autorizzati, idealmente attraverso profili personali e credenziali.

Anche la cancellazione dei dati resta essenziale: prima dell’invio andrebbero rimossi numeri bancari, documenti confidenziali e riferimenti ad altre persone. Ogni collegamento generato da un servizio di intelligenza artificiale dovrebbe inoltre essere considerato potenzialmente individuabile da soggetti esterni, soprattutto dopo che il contenuto non è più necessario.