La firma invisibile di ChatGPT: quanto è davvero affidabile
OpenAI prepara un’impronta statistica per i testi destinati agli utenti europei, ma riconoscerla non basta a stabilire chi abbia scritto davvero un contenuto.
La filigrana nascosta nei testi generati da ChatGPT potrebbe non sopravvivere a una riscrittura accurata. Nei test diffusi da OpenAI, il riconoscimento è sceso dal 92 per cento al 66 per cento sostituendo con sinonimi una parola ogni dieci, mentre è precipitato al 17 per cento modificandone una ogni quattro.
Una traccia che può svanire
Il limite è stato riconosciuto anche da Anthropic, la società che sviluppa Claude: alcuni interventi possono lasciare intatta la firma, ma una rielaborazione completa è in grado di cancellarla. Per questo il marchio digitale potrebbe diventare soltanto uno degli elementi da valutare in un ambiente informativo sempre più complesso.
Anche quando il segnale viene individuato, il suo significato resta circoscritto. La presenza dell’impronta indica che un sistema di OpenAI ha prodotto o modificato almeno una parte del testo, ma non permette di sapere chi abbia impartito il comando né quale contributo abbia aggiunto una persona.
Chi potrà leggere il segnale
Il metodo di riconoscimento non sarà disponibile immediatamente a chiunque. Poiché il modello utilizzato per creare la traccia resta riservato, non è possibile realizzare autonomamente uno strumento capace di verificarla e, al momento, non esiste un servizio pubblico nel quale incollare un testo per controllarlo.
OpenAI prevede di mettere il proprio rilevatore a disposizione inizialmente di ricercatori e organizzazioni specializzate. Gli interessati dovranno presentare una richiesta e ottenere l’approvazione prima di poterlo utilizzare.
Fai una domanda su questo articolo o sul suo argomento: l'AI risponde in modo pertinente.
Come nasce l’impronta digitale
Il meccanismo sfrutta il modo in cui ChatGPT costruisce una risposta. A ogni passaggio il programma valuta diverse parole possibili e, attraverso textGrain, indirizza la scelta verso determinati termini o sinonimi secondo una sequenza riservata.
Il testo, per chi lo legge, mantiene un aspetto normale. Tuttavia, le preferenze statistiche introdotte durante la composizione lasciano una configurazione riconoscibile da un programma che conosca la regola segreta: una sorta di firma invisibile distribuita tra le parole.
La regola europea accelera la svolta
L’iniziativa rientra negli obblighi dell’AI Act, la normativa dell’Unione europea sull’intelligenza artificiale. Dal 2 agosto le aziende devono rendere riconoscibili come artificiali i contenuti prodotti dalle macchine.
OpenAI si è mossa dopo Anthropic, che aveva già adottato una soluzione per i contenuti generati dal proprio sistema. Le due impostazioni, però, non coincidono: la proposta di OpenAI punta su una traccia statistica impercettibile, collegata al modo in cui vengono selezionate le parole.
Continua a leggere
Monopattino, paura per Davide Iacopini: chi è l’attore di Maschi Veri
Dalla passione per Joaquin Phoenix ai ruoli in Suburra e Maschi Veri: il percorso dell’attore genovese, ora ricoverato dopo un incidente a Roma.
Laura Pausini, il monito dopo il concerto: «Cinture e niente telefono
Al termine dello show milanese la cantante si è rivolta al pubblico con un appello personale sulla sicurezza stradale, lasciandosi andare alla commozione.
Arisa anticipa Sanremo 2027: De Martino riceve il brano, ma tace
La cantante ha spedito al futuro direttore artistico una prima versione del suo inedito e attende ancora un riscontro, mentre prepara il ritorno su Rai1.
Marcello Corvino, il legame con Sgarbi e la carriera lontano dai riflettori
Musicista, produttore e organizzatore culturale, Corvino ha costruito un percorso tra concerti, teatro, cinema e incarichi artistici, mantenendo riservata la sfera personale.