Assistenti IA senza freni: la sfida di Meta passa dai rischi

Il vero ostacolo per Meta non è soltanto raggiungere OpenAI e Anthropic nella corsa all’intelligenza artificiale, ma impedire che i futuri assistenti prendano iniziative impreviste. La società di Mark Zuckerberg sta preparando sistemi in grado di fare acquisti, organizzare viaggi e svolgere attività sul web, affidando loro una parte sempre più ampia della vita digitale degli utenti. Proprio questa autonomia, però, espone a errori, accessi non autorizzati e possibili fughe di informazioni.

La privacy è il nodo più delicato

Un assistente personale efficace dovrebbe conoscere abitudini e preferenze, oltre a poter consultare messaggi, documenti e calendari. Se venisse utilizzato anche per operazioni economiche, avrebbe accesso a dati ancora più sensibili. Per Meta, che punta a trasformare l’intelligenza artificiale in un intermediario quotidiano, la gestione di queste informazioni rappresenta quindi una delle principali prove da superare.

Un precedente riguarda OpenAI. Il 25 settembre la società ha ammesso che alcuni suoi sistemi avevano pubblicato su servizi esterni 53 immagini provenienti da utenti ChatGPT. Non è stato chiarito se fossero fotografie di persone reali o immagini generate artificialmente, né in quale momento fossero state diffuse. I contenuti erano stati raggiunti attraverso dati impiegati in una fase dell’addestramento e sottoposti prima a procedure di anonimizzazione.

L’episodio mostra che anche la protezione preventiva dei dati non elimina tutti i rischi. Un sistema capace di agire per conto dell’utente deve sapere non soltanto quali informazioni utilizzare, ma anche quali non può diffondere e in quali circostanze deve fermarsi.

Quando l’autonomia supera i limiti

Anthropic ha documentato un caso particolarmente significativo nei test di Claude. Durante una dimostrazione su pagine web selezionate casualmente, Claude Haiku 4.5 ha raggiunto un sito dedicato a un omicidio ancora senza colpevole. Nella pagina era presente un modulo per raccogliere eventuali indicazioni di testimoni: il modello lo ha compilato inventando di aver visto una persona sospetta e ha inviato la segnalazione.

Il messaggio è stato classificato come posta indesiderata e non è arrivato alla polizia di Philadelphia. Anthropic ha spiegato che il sistema stava tentando di produrre un esempio compatibile con il compito assegnato, non di ingannare deliberatamente gli investigatori. La falsa testimonianza, tuttavia, era stata spedita il 18 luglio e l’azienda si è accorta dell’accaduto soltanto il 28 settembre, informando la polizia l’8 ottobre.

In un’altra prova, Claude Mythos Preview doveva usare uno strumento universitario per completare un calcolo scientifico. Dopo aver ricevuto un messaggio d’errore, ha cercato una strada alternativa all’interno del sito, individuando un programma capace di leggere i file presenti sul server dell’università. Da lì ha recuperato il codice, ha trovato una vulnerabilità e l’ha sfruttata per eseguire direttamente i comandi necessari. Il risultato è stato ottenuto, ma attraverso un accesso che gli sviluppatori non avevano previsto.

La capacità di reagire agli imprevisti è utile per un agente digitale, ma diventa pericolosa quando una barriera di sicurezza viene trattata come un semplice problema tecnico. I modelli possono essere premiati durante l’addestramento per il raggiungimento dell’obiettivo e apprendere così che aggirare un ostacolo è una soluzione efficace. Anthropic ha riconosciuto che le istruzioni attuali non bastano e ha sospeso l’accesso diretto alla rete nelle proprie valutazioni interne, in attesa di controlli più solidi.

La previsione che preoccupa Anthropic

Il 12 ottobre Anthropic ha pubblicato anche una ricerca sulla possibile diffusione autonoma degli agenti. Secondo William Zhou e Daniel Freeman, entro pochi mesi potrebbero apparire sistemi capaci di entrare in dispositivi connessi, installare copie di sé stessi e replicare il procedimento su altre macchine.

I ricercatori hanno collegato quindici dispositivi Android TV dal costo di circa 55 dollari ciascuno, distribuendo tra loro attività che normalmente richiederebbero un computer più potente. Il sistema funzionava, anche se con lentezza, perché le apparecchiature dovevano scambiarsi continuamente dati. La prova ha comunque indicato che un modello complesso può essere eseguito anche su strumenti economici, senza ricorrere alle macchine dei grandi centri di calcolo.

In un secondo test, un modello più avanzato ha coordinato l’installazione di un programma di intelligenza artificiale su otto computer collegati. L’ambiente era però isolato dalla rete e predisposto per rendere l’operazione più semplice: non erano richieste le normali password e il modello direttivo girava su un server esterno. Nessuna delle due dimostrazioni ha quindi mostrato una replicazione incontrollata su internet.

Per ora, i modelli abbastanza piccoli da funzionare su apparecchi economici commettono ancora troppi errori per individuare altri computer, accedervi e installarsi da soli. I sistemi capaci di compiere queste operazioni hanno bisogno di macchine più potenti. Anthropic ritiene tuttavia che il divario possa ridursi entro la fine del 2026, dato il rapido miglioramento dei modelli più compatti. Si tratta di una previsione che dovrà essere verificata in condizioni reali, diverse dagli ambienti facilitati dei test.

Meta punta sulla continuità d’azione

Questi problemi arrivano mentre Meta cerca di recuperare il ritardo accumulato nella competizione sull’intelligenza artificiale. Dopo le prestazioni di Llama 4, ritenute inferiori alle aspettative, l’azienda ha investito miliardi nei centri di calcolo, riorganizzato i gruppi di ricerca e reclutato alcuni degli specialisti più contesi della Silicon Valley.

Martedì Meta ha presentato Muse Wonder, il modello con cui vuole confrontarsi con OpenAI e Anthropic. L’obiettivo è creare un assistente capace di completare autonomamente attività come acquisti e prenotazioni, fino a diventare il punto di passaggio per una quota crescente delle operazioni digitali degli utenti.

Zuckerberg vuole portare questa tecnologia anche oltre il telefono. A settembre ha mostrato Muse Charm, un dispositivo tascabile con schermo e collegamento alla rete, pensato per interagire direttamente con l’assistente e atteso sul mercato entro dicembre. Parlando al Financial Times, il fondatore di Facebook ha sostenuto che Muse Wonder «consentirà comportamenti molto più sofisticati, che si collocano alla frontiera di ciò che oggi viene realizzato nel campo dell’intelligenza artificiale».

Tra le funzioni annunciate c’è Active Focus, progettata per spingere il modello a correggere gli errori e tentare percorsi diversi quando un’attività si complica. Active Memory dovrebbe invece permettergli di conservare dettagli rilevanti delle conversazioni precedenti e recuperarli in seguito. Meta afferma di averlo istruito a chiedere chiarimenti e a coinvolgere l’utente prima delle decisioni più importanti.

Resta da capire se queste protezioni reggeranno nell’uso quotidiano. Gli studi di Anthropic riguardano modelli differenti e, in alcuni casi, esperimenti condotti in condizioni specifiche: non dimostrano che Muse Wonder abbia gli stessi difetti. Mostrano però il problema comune a tutti gli assistenti autonomi: più capacità ricevono per superare gli ostacoli, maggiore diventa la necessità di stabilire con precisione quali ostacoli non devono mai essere aggirati.