Agenti IA, il freno d’emergenza di NVIDIA arriva in millisecondi
La nuova piattaforma di NVIDIA punta a contenere gli agenti autonomi con ambienti isolati, permessi selettivi e controllo sulle risorse aziendali.
Il problema non è soltanto che un agente IA possa fornire una risposta sbagliata. Se dispone di accesso a documenti, credenziali e servizi interni, può anche tentare operazioni mai autorizzate: per questo il controllo delle sue attività diventa centrale man mano che cresce il livello di autonomia.
Quando l’autonomia diventa un rischio
Un sistema incaricato di lavorare sui documenti, per esempio, dovrebbe poter consultare soltanto la cartella necessaria al compito. Lasciargli visibilità sull’intera rete aziendale significherebbe esporre risorse che non servono alla sua attività.
Il punto più delicato emerge quando l’agente prova a superare i limiti assegnati. In quel caso non basta affidarsi alle sue istruzioni: servono barriere tecniche capaci di restringere gli accessi e di rendere verificabili le operazioni eseguite.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
La risposta di NVIDIA
NVIDIA ha presentato Open Agent Safety Platform, un progetto costruito per offrire strumenti di contenimento agli agenti IA. L’obiettivo è stabilire in anticipo quali risorse possano essere utilizzate e mantenere sotto osservazione il comportamento del sistema.
Tra gli elementi annunciati figura OpenShell, che inserisce l’agente in uno spazio operativo separato. Gli amministratori possono così definire i permessi disponibili e controllare le azioni compiute, riducendo la possibilità che il programma acceda a dati o servizi estranei all’incarico ricevuto.
Continua a leggere
Trump riscrive il lessico dell’IA: per decreto arriva la Super Intelligence
L’ordine esecutivo firmato il 29 settembre invita l’amministrazione federale a sostituire intelligenza artificiale e IA con una definizione ritenuta più ambiziosa.
Muse entra nelle PMI: l’agente Meta vuole trasformare i dati in azioni
La nuova versione di Muse collega social, pubblicità e servizi aziendali per analizzare risultati, suggerire priorità e automatizzare attività di marketing.
iPhone 18 Pro, cosa cambia davvero rispetto al 17 Pro
Il nuovo modello mantiene il design della generazione precedente ma interviene su prestazioni, temperature, fotocamere e velocità di ricarica.
Google sfida Bruxelles: Android e Search diventano terreno di scontro
Il gruppo Alphabet ricorre contro le misure europee che impongono più apertura su Android e l’accesso regolato ai dati di Google Search per i concorrenti dell’intelligenza artificiale.