Un modello spento quattro giorni dopo il lancio
Il 9 giugno Anthropic presenta Claude Fable 5, il modello più potente che avesse mai messo in mano al pubblico. Contesto enorme, prestazioni da record, lanciato in pompa magna. Quattro giorni dopo, lo stesso modello è spento. Insieme al suo gemello Mythos 5, sparito da tutti i canali su cui le aziende lo usavano.
Non l'ha deciso Anthropic. L'ha imposto un ordine del governo statunitense. E la storia, più che di intelligenza artificiale, parla di una cosa che riguarda da vicino chiunque oggi appoggi un pezzo del proprio lavoro su un fornitore esterno.
Cosa è successo, in ordine
Il 12 giugno il Commerce Department degli Stati Uniti, l'ufficio che controlla le esportazioni, recapita ad Anthropic una direttiva: sospendere l'accesso a Fable 5 e Mythos 5 a qualunque cittadino straniero. Il motivo è che era emerso un metodo per aggirare i nuovi sistemi di sicurezza del modello, un jailbreak.
Filtrare gli utenti per nazionalità, nella pratica, non è una cosa che si fa con un interruttore. Così il 13 giugno Anthropic prende l'unica strada percorribile per rispettare l'ordine: spegne i due modelli per tutti, ovunque. Americani compresi.
Anthropic ha messo a verbale di non essere d'accordo. Un singolo bypass, dice, non dovrebbe giustificare il ritiro di un modello usato da centinaia di milioni di persone. Ma di fronte a un ordine legale si è adeguata. Punto.
La nazionalità come interruttore
C'è un dettaglio che dovrebbe far drizzare le antenne soprattutto a noi che lavoriamo in Europa. La leva usata per spegnere il modello è il controllo delle esportazioni e il criterio era la cittadinanza di chi lo usa: cittadini stranieri fuori. Cioè noi.
Stavolta è finita con uno spegnimento per tutti, perché filtrare era impensabile. Ma il precedente è scritto: per un'azienda europea che pianifica di costruire su uno di questi strumenti, non è un dettaglio di poco conto.
Se il tuo lavoro si ferma quando qualcun altro spegne un interruttore che non controlli, inizi a pensare che ti serva un piano B.
Il paradosso: era pure un modello discusso
C'è un'ironia in tutto questo. Fable 5 non era lo strumento indispensabile che il lancio lasciava immaginare. Costava circa il doppio del modello precedente, Opus 4.8, per un guadagno di prestazioni intorno al 5,7%. Sul lavoro reale di programmazione diversi addetti lo avevano già giudicato di fascia media, niente di rivoluzionario.
Insomma...tanto puzzo per niente.
Cosa portarsi a casa da questa esperienza?
Tre principi, validi per qualsiasi azienda, non solo per chi scrive codice.
- Tieni sempre un piano B. Per ogni funzione importante affidata a un modello AI, sappi già quale altro modello la coprirebbe domani mattina. Per chi era su Fable 5 il ripiego naturale era Opus 4.8: chi ce l'aveva pronto stamattina ha solo cambiato una riga.
- Non incollarti a un solo fornitore. Costruisci le cose in modo da poter cambiare modello senza rifare tutto da capo. Se cambiare fornitore vuol dire riscrivere il prodotto, non hai uno strumento: hai una dipendenza.
- Guarda da chi dipende davvero il servizio. Un fornitore solo, in un solo Paese, soggetto a un solo governo, è un punto unico di rottura. Più sono i punti di rottura coperti, meno sei fragile.
Come la vediamo noi
Dentro SolitonAi, il nostro ramo di AI applicata, una delle prime cose che progettiamo per i clienti è proprio questa: come usare questi strumenti senza diventarne ostaggi. Quale modello per cosa, quale ripiego se uno cade, come tenere il controllo invece di affidarlo a un interruttore lontano.
Quindi, occhio!
