Anthropic ha introdotto un watermark “invisibile” nei testi generati da Claude: una filigrana statistica che sopravvive al copia-incolla e che, con una chiave segreta, permette di stimare se un brano provenga dal modello. L’idea (attribuita allo schema proposto da Scott Aaronson) agisce durante la scelta delle parole: tra alternative quasi equivalenti, il modello viene spinto a selezioni coerenti con una funzione crittografica basata sul contesto recente. A parole sembra la soluzione al problema della trasparenza, anche in risposta alle richieste dell’AI Act UE e al cosiddetto Bruxelles Effect.
Il punto però è che la filigrana è forte soprattutto nei “casi puri” (testo generato da zero e pubblicato tale e quale) e diventa debole proprio nei casi reali: correzioni leggere di stile e grammatica, documenti ibridi a strati (parti umane + parti IA), o semplici trasformazioni che spezzano la finestra di contesto. Inoltre nei testi a bassa entropia—definizioni tecniche, formule, diritto, e spesso anche codice—c’è meno libertà lessicale e il watermark è strutturalmente più fragile.
Resta il nodo politico: chi controlla la chiave e la soglia di rilevazione controlla anche l’attribuzione. Senza numeri pubblici su falsi positivi e soglie minime, il “rilevato dal watermark” rischia di diventare un sospetto vestito da prova, con conseguenze concrete in scuole, redazioni e tribunali.
00:00 La firma invisibile di Claude 02:05 Come funziona il watermark 04:00 AI Act e Brussels Effect 06:15 Cosa c’è di buono 07:40 Correzioni e casi ibridi 10:12 Traduzioni e definizioni ambigue 12:54 Come distruggerlo facilmente 15:01 Chiave segreta e rischi
#Claude #Anthropic #AIACT
~~~
Ciao Internet! - Il primo e più seguito canale di TECH POLICY in italia, con Matteo Flora
Podden och tillhörande omslagsbild på den här sidan tillhör
Matteo Flora. Innehållet i podden är skapat av Matteo Flora och inte av,
eller tillsammans med, Poddtoppen.
