ChatGPT, arriva la filigrana invisibile: cosa potrà davvero dimostrare

La filigrana introdotta da OpenAI non sarà visibile a chi legge e non permetterà, da sola, di stabilire chi abbia scritto un testo o quanto sia intervenuto un essere umano. Servirà piuttosto come indizio tecnico per stimare se una risposta è stata generata o modificata da un sistema dell’azienda.

La funzione sarà distribuita gradualmente nelle prossime settimane su ChatGPT e Codex nell’Unione europea. L’attivazione riguarderà i contenuti compatibili e non dipenderà dal tipo di abbonamento scelto dall’utente.

Il segnale resiste, ma non sempre

Il sistema si chiama textGrain e agisce durante la composizione della risposta. Quando il modello deve individuare la parola successiva, o anche soltanto una porzione di parola, il meccanismo orienta in modo impercettibile la selezione verso alcune alternative, seguendo uno schema determinato da una chiave segreta.

Il risultato, per il lettore, resta indistinguibile da un testo normale. Solo l’esame di un numero consistente di parole può far emergere una regolarità statistica, che un apposito strumento analizza per calcolare la probabilità di un intervento da parte di un modello OpenAI dotato di textGrain.

Le prove dell’azienda mostrano però che il risultato cambia molto in base al contenuto. Mantenendo all’1% la soglia massima di falsi allarmi, il segnale è stato individuato in circa l’80% dei testi da 200 token e in quasi il 95% di quelli da 400 token in ambiti come la psicologia. In matematica, invece, formule e numeri riducono le possibilità di scelta linguistica e rendono l’identificazione meno efficace.

Anche una riscrittura può indebolire la filigrana. Nei test condotti su testi in inglese da 400 token, il riconoscimento è sceso da circa il 92% al 66% dopo la sostituzione del 10% delle parole con sinonimi; cambiando il 25% dei termini, il dato è precipitato al 17%.

Cosa impone la normativa europea

L’iniziativa si colloca nel quadro dell’articolo 50 dell’AI Act, che sarà applicabile dal 2 agosto 2026. La disposizione richiede ai fornitori di sistemi generativi di rendere riconoscibili, in formato leggibile dalle macchine, testi, immagini, audio e video creati o alterati dall’intelligenza artificiale, quando ciò sia tecnicamente possibile e sostenibile sul piano dei costi.

Il Codice europeo di buone pratiche sulla trasparenza offre indicazioni operative, ma la sua adesione resta volontaria. Diverso è il peso degli obblighi previsti dall’articolo 50, che discendono direttamente dalla legislazione dell’Unione europea.

Tra i casi considerati dalla norma ci sono i testi diffusi per informare il pubblico su questioni di interesse generale. In queste situazioni deve essere indicato l’eventuale contributo dell’intelligenza artificiale, salvo che il contenuto sia stato sottoposto a una revisione umana o editoriale e che una persona oppure un’organizzazione ne abbia assunto la responsabilità.

Il rilevatore non sarà per tutti

OpenAI non renderà inizialmente il proprio strumento di verifica disponibile senza limitazioni. L’accesso sarà riservato a ricercatori approvati e organizzazioni con competenze specifiche, attraverso richieste esaminate individualmente. L’obiettivo è raccogliere informazioni sull’affidabilità pratica del sistema prima di ampliarne l’utilizzo.

Un esito positivo non equivale a una prova assoluta. Indica soltanto che un modello OpenAI potrebbe aver prodotto o rielaborato almeno una parte del testo; non chiarisce chi abbia inserito la richiesta, quale contributo umano sia stato aggiunto, se il contenuto sia corretto o a chi spettino eventuali responsabilità.

Per immagini e audio, OpenAI dispone già di strumenti accessibili tramite Verify e Content Provenance API. In questi casi l’azienda utilizza anche le Content Credentials, basate sullo standard C2PA, che registrano informazioni sulla provenienza nei metadati dei file.

Un sistema a più livelli

I metadati possono scomparire dopo una conversione, una modifica o una semplice condivisione del file. Un segnale inserito direttamente nel contenuto può invece sopravvivere ad alcune trasformazioni, anche se non è immune da ogni intervento. Per questo OpenAI punta a combinare tecnologie diverse, affidando a ciascuna un ruolo specifico.

Per chi utilizza i modelli tramite API, la filigrana è già presente su alcuni sistemi anche fuori dall’Europa. In questo scenario, però, l’attivazione spetta allo sviluppatore e l’impostazione iniziale mantiene la funzione disabilitata.

Una strategia simile è stata adottata da Anthropic per alcuni modelli della famiglia Claude, con un segnale statistico incorporato nei testi. La rilevabilità aumenta con la lunghezza e con la varietà delle parole disponibili, mentre strumenti creati per rimuovere la filigrana hanno sollevato dubbi sulla sua tenuta.

In definitiva, textGrain non certifica l’intera storia di un testo: offre un’indicazione sulla sua possibile origine. Il suo valore dipenderà dalla quantità di materiale analizzato, dal tipo di linguaggio impiegato e da ciò che accadrà al contenuto dopo la generazione.