Testi IA, la filigrana di OpenAI ha un punto debole: basta il 10%
La tecnologia textGrain sarà introdotta in ChatGPT e Codex in Europa, ma una piccola modifica al testo potrebbe ridurne l’efficacia
La nuova soluzione scelta da OpenAI per riconoscere i testi generati dall’intelligenza artificiale si prepara a entrare nei suoi servizi europei. Il sistema, chiamato textGrain, sarà utilizzato con ChatGPT e Codex, ma presenta una vulnerabilità già individuata: la modifica di una quota ridotta delle parole può metterlo in difficoltà.
textGrain arriva nei servizi europei
OpenAI ha sviluppato una tecnologia proprietaria destinata a individuare i contenuti prodotti dai propri strumenti. L’arrivo di textGrain riguarderà ChatGPT e Codex anche in Europa, sebbene non siano indicate tempistiche più precise per la distribuzione.
La soluzione nasce quindi con l’obiettivo di rendere riconoscibili i testi generati dai modelli dell’azienda. Il sistema, tuttavia, non sembra inattaccabile e la sua efficacia può dipendere da quanto il contenuto viene modificato dopo la generazione.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
Una modifica minima può bastare
Secondo le informazioni disponibili, intervenire su circa il 10% delle parole è sufficiente per indebolire il riconoscimento. Non servirebbe dunque riscrivere integralmente il testo: anche cambiamenti limitati potrebbero complicare il lavoro della tecnologia.
Il dato evidenzia il principale limite di textGrain già emerso: la filigrana applicata ai contenuti non sarebbe completamente resistente alle riformulazioni. OpenAI punta comunque a portare il sistema su ChatGPT e Codex, affidandosi a uno strumento proprietario per distinguere i testi generati dai suoi servizi.
Continua a leggere
Surface, domani il debutto del portatile che sfida il cloud con l’AI
Microsoft prepara un raro appuntamento dedicato alla linea Surface: al centro potrebbe esserci il nuovo Laptop Ultra con piattaforma NVIDIA RTX Spark.
UGREEN, occasioni Prime da 11 euro: cosa conviene guardare
Cavi, caricabatterie e batterie portatili UGREEN sono proposti in promozione su Amazon durante la Festa delle Offerte Prime, con prezzi soggetti a variazioni.
iOS 27.2, la beta 3 svela cosa cambia sugli iPhone
La nuova versione di prova porta una Salute rinnovata e ritocchi a Siri, FaceTime, Apple TV, Podcast e Messaggi.
Una nana bianca nasconde un pianeta: l’indizio decisivo arriva da Hubble
Le tracce di niobio nell’atmosfera di HS 0209+0832 suggeriscono che una stella morente possa aver generato un nuovo mondo gassoso.