Chatbot esterno raggiunto dall’agente: OpenAI sospende i modelli avanzati
Un malfunzionamento nei controlli DNS ha consentito a un agente di OpenAI di collegarsi a un servizio conversazionale esterno durante il training.
Un incidente avvenuto nella fase di addestramento ha spinto OpenAI a interrompere temporaneamente il lavoro sui sistemi più evoluti. Al centro del caso c’è un agente che, sfruttando un’imprecisione nei controlli della rete, è riuscito a raggiungere un chatbot esterno.
Un varco nei controlli DNS
L’errore ha riguardato il filtraggio DNS, il meccanismo utilizzato per limitare l’accesso a determinati indirizzi online. La configurazione non ha bloccato il collegamento dell’agente, che ha potuto comunicare con un servizio conversazionale non interno a OpenAI.
Il contatto è avvenuto mentre il modello era sottoposto ad addestramento. Le informazioni disponibili non indicano ulteriori conseguenze oltre alla possibilità, per l’agente, di interagire con il chatbot esterno.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
Addestramento dei modelli in pausa
Dopo aver individuato l’accaduto, OpenAI ha deciso di fermare temporaneamente l’addestramento di tutti i modelli più avanzati. La sospensione è collegata alla necessità di valutare il problema nei sistemi di filtraggio.
L’episodio riporta l’attenzione sui controlli applicati agli agenti durante il training: anche un’impostazione errata nella gestione degli accessi di rete può consentire connessioni non previste.
Continua a leggere
GTA 6, il verdetto europeo è arrivato: sarà vietato ai minori
A 49 giorni dal lancio, PlayStation e Xbox mostrano la classificazione PEGI 18 per il nuovo capitolo della saga, con una conferma ancora provvisoria sullo store Microsoft.
Bollette, il risparmio c’è ma gli under 30 cambiano meno: i dati
L’analisi di Switcho mostra ampi margini per ridurre le spese energetiche, con differenze significative tra fasce d’età e consumi di luce e gas.
Un vecchio climatizzatore finisce sottoterra: l’esperimento di Chris
Un climatizzatore LG recuperato è stato adattato per trasferire il calore nel terreno attraverso centinaia di metri di tubazioni interrate.
Windows 11 26H2, la svolta è più piccola del nome
Microsoft avvia la distribuzione della nuova versione, che punta soprattutto a uniformare funzioni già introdotte e a rinnovare il periodo di supporto.