La firma di ChatGPT si cancella con i sinonimi: il test di OpenAI

La verifica dell’origine dei contenuti creati con l’intelligenza artificiale è già possibile per immagini e registrazioni audio. OpenAI utilizza infatti un sistema pubblico che combina lo standard C2PA, dedicato alla tracciabilità dei contenuti, con SynthID di Google DeepMind, una filigrana non visibile adottata per immagini e suoni.

Sui file multimediali la tecnologia è pronta

Questi strumenti consentono di controllare la provenienza di un file senza alterarne l’aspetto o l’ascolto. La marcatura resta incorporata nei contenuti e può essere individuata attraverso sistemi di verifica dedicati.

Per i testi, invece, il quadro è meno solido. OpenAI sta preparando una soluzione specifica per i materiali prodotti da ChatGPT e Codex, ma i primi dati mostrano che una modifica relativamente piccola può compromettere il riconoscimento.

Privacy e accesso restano limitati

textGrain non collega il risultato all’identità di chi ha utilizzato il servizio. L’analisi indica soltanto se un documento, o una sua porzione, presenta caratteristiche compatibili con una generazione effettuata dai sistemi di OpenAI; non rende visibili le istruzioni inserite né la conversazione da cui è nato il testo.

Il rilevatore non stabilisce neppure quale percentuale del contenuto sia stata scritta dall’utente e quale dal modello. Per ridurre il rischio di contestazioni sbagliate, la società prevede inizialmente di metterlo a disposizione soltanto di alcuni ricercatori e di organizzazioni selezionate, con l’obiettivo di pubblicarne in seguito il codice.

La traccia nasce dalle parole scelte

A differenza delle filigrane impiegate nei contenuti visivi, il meccanismo non aggiunge simboli nascosti o sequenze segrete. Durante la composizione, il modello viene orientato verso determinate combinazioni lessicali: l’insieme delle preferenze produce una configurazione numerica che un programma può poi confrontare con il documento esaminato.

La rilevazione funziona soprattutto quando il testo ha una lunghezza intermedia. Nei test citati da OpenAI, il riconoscimento arriva all’80% con elaborati da 200 token e sale al 95% con testi da 400 token, soprattutto in ambiti argomentativi come quello psicologico. La quota di segnalazioni errate su scritti umani è stata invece stimata all’1%.

Poche correzioni cambiano il risultato

Il sistema incontra maggiori difficoltà davanti a testi molto brevi o costruiti secondo formule rigide, tra cui rientrano le espressioni matematiche. Il limite più rilevante, però, emerge quando una persona interviene sul vocabolario sostituendo alcune parole con alternative dal significato simile.

Secondo le prove diffuse da OpenAI, la capacità di riconoscimento scende dal 92% al 66% quando viene modificato il 10% dei termini. Con una sostituzione del 25%, l’efficacia precipita invece al 17%, mostrando quanto sia vulnerabile la filigrana a una rielaborazione anche contenuta.

Il debutto europeo è vicino

textGrain dovrebbe arrivare nelle prossime settimane nell’Unione Europea, in risposta agli obblighi di trasparenza previsti dal regolamento europeo sull’intelligenza artificiale. Nei Paesi esterni all’Unione, la funzione resterà invece disponibile come opzione attivabile tramite interfaccia di programmazione delle applicazioni.

L’obiettivo è offrire un’indicazione sull’origine automatica di un testo, non ricostruire l’intero processo con cui è stato prodotto. Proprio la facilità con cui la traccia può essere indebolita lascia aperto il confronto sull’affidabilità di questo tipo di controllo.