Dal 2 agosto i testi di Claude escono marcati
Anthropic ha spiegato a metà agosto come funziona la filigrana che i suoi modelli inseriscono nei testi che producono. È attiva dal 2 agosto sui modelli nuovi e arriverà su quelli precedenti nei mesi a venire. Non ci sono caratteri nascosti né simboli aggiunti in coda: il testo che leggete resta identico a prima, stessa lunghezza e stessa forma.
La spinta non arriva dal mercato ma dalla legge. Dal 2 agosto si applica l'articolo 50 dell'AI Act, che chiede a chi fornisce sistemi di AI generativa di marcare in modo leggibile dalle macchine i contenuti che escono dai loro modelli. A luglio Anthropic ha firmato il Codice di condotta europeo sulla trasparenza dei contenuti generati, insieme a circa 190 organizzazioni fra fornitori di modelli e aziende che quei modelli li usano tutti i giorni.
Come funziona?
Quando un modello scrive, a ogni passo sceglie la parola successiva fra alcune candidate quasi equivalenti. Dove "nuvoloso" e "grigio" vanno bene uguale, di solito decide il caso. La filigrana sostituisce quel caso con una chiave crittografica: la scelta resta indistinguibile per chi legge, mentre chi ha la chiave può stimare quante di quelle decisioni le ha prese il modello. Il metodo si chiama SynthID-Text ed è stato sviluppato da Google DeepMind.
Anthropic dichiara che il sistema non tocca contenuto, creatività o leggibilità del testo, non genera token in più e non aumenta i costi. Aggiunge un dettaglio che vale la pena riportare per intero, perché risponde al primo dubbio che emerge quando se ne parla in azienda, ovvero che nella filigrana non c'è nulla che permetta di risalire a una persona, a un'organizzazione o a una conversazione. Non è un sistema di tracciamento di chi scrive.
Più parole sceglie la macchina, più forte è il segnale!
Qui arriva la parte utile per chi con questi strumenti ci lavora davvero. Il segnale si accumula sulle scelte lessicali: quante più parole vengono dal modello, tanto più la marcatura diventa rilevabile. Il comportamento cambia quindi in base al tipo di lavoro che gli avete affidato.
Una traduzione fatta da Claude porta la filigrana piena, perché ogni singola parola del risultato l'ha scelta il modello. Un testo scritto da voi e passato al modello per una rilettura torna indietro con pochissime parole cambiate e alla marcatura resta quasi niente a cui attaccarsi. Sui passaggi molto fattuali il segnale è più rado, visto che le alternative accettabili senza perdere precisione sono poche. Sul codice vale lo stesso principio, perché dove la risposta corretta è una sola non esiste margine di scelta da sfruttare. Anche la lunghezza pesa, perché su un testo breve le decisioni da misurare sono troppo poche per dire qualcosa di solido.
ai generated
Quello che la filigrana non dice
Anthropic è esplicita sui limiti del sistema. Un esito positivo dice che quel testo è passato dai suoi modelli, senza distinguere fra un pezzo scritto per intero dalla macchina e uno rimaneggiato pesantemente a partire da un testo umano. Un esito negativo non dimostra che il testo sia umano. In nessun caso il sistema sa dire se dietro c'è un modello di un altro fornitore. L'API di rilevamento è stata annunciata ma non è ancora disponibile, con i dettagli di funzionamento ancora in lavorazione.
Cosa misura davvero quel segnale
Messi in fila, quei limiti dicono una cosa sola: la filigrana conta quanto lavoro esecutivo avete delegato, non chi ha avuto l'idea. Prendete due comunicati stampa. Nel primo i dati, la posizione dell'azienda e le cose da dire le mettete voi mentre al modello chiedete di sistemare la forma, il testo resta vostro dalla prima riga all'ultima. Il segnale che lascia è vicino allo zero. Nel secondo scrivete due righe di richiesta e lasciate che il modello produca tutto: la marcatura è piena mentre il contributo umano si ferma alla richiesta.
Formalmente sono entrambi testi usciti da un'AI. Il lavoro dentro, però, è di due tipi diversi. Adesso esiste una tecnica che rende visibile quella differenza, almeno in parte.
ai generated
Cosa cambia per la vostra azienda?
Sul piano degli obblighi cambia poco. La marcatura tecnica resta in capo a chi fornisce il modello, quindi non dovete marcare niente voi. Gli obblighi che riguardano la vostra azienda sono gli altri dell'articolo 50: dichiarare i contenuti che imitano persone o situazioni reali fino a sembrare autentici e i testi di interesse pubblico pubblicati senza una responsabilità editoriale identificabile. Ne abbiamo scritto la guida operativa a fine luglio.
Sul piano dell'organizzazione interna cambia parecchio. Fino a ieri "l'ha scritto l'AI" era una discussione senza prove, buona per i sospetti e per le difese di comodo. Adesso esiste un segnale tecnico che, entro i suoi limiti, distingue il testo prodotto dalla macchina da quello che la macchina ha soltanto rifinito. Le vostre policy interne, se le avete, dovrebbero parlare la stessa lingua di quella distinzione.
ai generated
La regola che conviene darsi
Bastano tre righe scritte una volta sola. Dove l'AI può arrivare nei vostri contenuti, per esempio prime stesure, varianti, traduzioni, riordino di appunti. Dove non arriva mai, per esempio dati, numeri, dichiarazioni attribuite a qualcuno, posizioni pubbliche dell'azienda. Chi firma il risultato e risponde di quello che c'è scritto.
Fatta quella regola, la filigrana diventa un problema di qualcun altro. Chi decide cosa dire e verifica riga per riga quello che esce ha poco da temere da un rilevatore, adesso e fra due anni. Chi delega il pensiero ha già un problema a monte, che nessun rilevatore gli risolve.
Per restare sempre aggiornati su questi argomenti in continua evoluzione, iscrivetevi alla nostra newsletter!
