ChatGPT filigrana invisibile: OpenAI lancia textGrain per i testi IA

OpenAI lancia textGrain, la filigrana invisibile per i testi IA: scopri come funziona, cosa può dimostrare e quali implicazioni ha per editori e docenti.

ChatGPT filigrana invisibile: OpenAI lancia textGrain per i testi IA
Lorenzo Pascucci 
Rimani aggiornato con WebMasterPoint
Fonte preferita Google X Instagram

OpenAI lancia textGrain, una filigrana invisibile pensata per riconoscere i testi generati dall'IA. Come funziona e che cosa può davvero dimostrare? Una novità con ricadute concrete per editori e insegnanti.

OpenAI ha annunciato che textGrain, una filigrana invisibile per i testi generati da ChatGPT e Codex, verrà introdotta in tutta l'Unione Europea nelle prossime settimane. La mossa segue la scadenza del 2 agosto 2026 fissata dall'AI Act dell'UE, che impone ai fornitori di contrassegnare i testi sintetici in un formato leggibile da macchina. A differenza delle filigrane visibili, textGrain incorpora uno schema statistico nascosto nelle scelte lessicali del modello, lasciando il testo apparentemente del tutto naturale agli occhi dei lettori umani. Il sistema sarà attivo di default per gli utenti UE su tutti i piani, mentre i clienti API di tutto il mondo potranno attivarlo volontariamente. OpenAI descrive la tecnologia come una risposta alla pressione normativa piuttosto che come uno strumento anti-plagio definitivo, e l'azienda riconosce che il segnale può essere indebolito da:

  • modifiche,
  • traduzione,
  • o parafrasi estese.

Come funziona la filigrana textGrain di OpenAI

La filigrana funziona orientando leggermente il modello linguistico verso determinati token durante la generazione. A ogni passaggio il modello normalmente sceglie la parola successiva da una distribuzione di probabilità. textGrain modifica quella distribuzione secondo una chiave segreta, creando una deviazione sottile rilevabile da uno strumento specializzato. Poiché la distorsione è distribuita su molte scelte, il testo risultante resta leggibile e non contiene caratteri nascosti o metadati. OpenAI ha pubblicato risultati di benchmark che mostrano un'accuratezza di rilevamento di circa l'80 per cento per testi di circa 200 token e del 95 per cento per passaggi di 400 token, quando il tasso di falsi positivi è limitato all'1 per cento. Le prestazioni variano a seconda del tipo di contenuto: le spiegazioni matematiche e le risposte fattuali brevi mostrano tassi più bassi perché il vocabolario è limitato, mentre la prosa a risposta aperta conserva il segnale in modo più affidabile. La resilienza della filigrana viene testata anche tramite modifiche umane. Il tasso di rilevamento diminuisce con la sostituzione di sinonimi. Sostituire il 10 per cento delle parole con sinonimi riduce il rilevamento da circa il 92 per cento al 66 per cento nei campioni di 400 token, e una sostituzione del 25 per cento abbassa il tasso sotto il 20 per cento. Il testo tradotto e i contenuti pesantemente parafrasati erodono allo stesso modo il segnale, il che significa che il sistema è più affidabile per i testi recenti e non modificati. La filigrana non è in grado di identificare l'utente o l'account, né può risalire al prompt originale o alla conversazione.

Cosa può — e non può — dimostrare il rilevamento

Quando il rilevatore segnala un passaggio come filigranato, indica che è probabile che un modello OpenAI abbia generato il testo, ma non quantifica quanto del contenuto provenga dall'IA rispetto alla modifica umana. Il segnale non può rivelare:

  • l'identità dell'utente,
  • il prompt che ha attivato la generazione,
  • né se il testo sia stato successivamente modificato da una mano umana.

Di conseguenza, un rilevamento positivo non costituisce prova di plagio o uso improprio. Al contrario, un rilevamento negativo non garantisce la paternità umana; testi brevi, frammenti di codice o passaggi pesantemente modificati possono sfuggire al rilevatore anche quando prodotti da un modello IA. Queste limitazioni implicano che textGrain debba essere considerato un indicatore di provenienza piuttosto che un verdetto definitivo sull'autenticità.

Implicazioni pratiche per editori e insegnanti

Gli editori attualmente non possono offrire il rilevatore al pubblico generale: l'accesso è limitato a ricercatori e organizzazioni esperte approvate. Possono utilizzare la funzione opt-in basata su API di OpenAI o attendere un accesso più ampio prima di integrare il rilevamento nei loro flussi di lavoro.

Insegnanti ed editori dovrebbero trattare un risultato positivo come un elemento di prova, non come prova di plagio o come misura di quanto una persona abbia contribuito. È opportuno abbinarlo a controlli anti-plagio, analisi stilistica e giudizio editoriale, evitando di trarre conclusioni definitive da passaggi brevi o sostanzialmente modificati. La soglia di falsi positivi dell'1 per cento riportata significa inoltre che una segnalazione può essere errata.