Le aziende che ci invitano a usare l’intelligenza artificiale per lavorare, studiare e programmare stanno mandando un altro messaggio: dobbiamo fare più attenzione a come la sviluppiamo.
Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, l’azienda che produce l’assistente AI Claude, ha chiesto di rallentare lo sviluppo dei sistemi più avanzati per dare alla sicurezza il tempo di recuperare.
Sam Altman, alla guida di OpenAI, la società di ChatGPT, ha sostenuto la proposta e annunciato che anche la sua azienda accoglierà valutatori indipendenti. Elon Musk, fondatore di xAI, l’azienda dietro Grok, ha espresso il proprio appoggio. Si è aggiunto Demis Hassabis, cofondatore di Google DeepMind, il laboratorio che sviluppa l’intelligenza artificiale di Google. AP, Axios
Sono concorrenti. Vogliono vendere i propri prodotti agli stessi clienti e arrivare prima degli altri alla prossima scoperta. Vederli convergere sulla necessità di controlli è quindi una notizia importante.
Non hanno annunciato di spegnere ChatGPT, Claude o Grok. E non hanno firmato un accordo per fermarsi tutti insieme. Stanno discutendo quanto velocemente sia prudente costruire sistemi ancora più potenti e chi debba verificarne la sicurezza.
Per capire perché, bisogna partire da ciò che è già successo.
Quando l’AI smette di rispondere e comincia ad agire
Molte persone conoscono l’intelligenza artificiale come una casella in cui scrivere una domanda. Si chiede una ricetta, una traduzione o una spiegazione e si riceve una risposta.
I sistemi al centro di questo dibattito possono fare di più. Se ricevono strumenti e autorizzazioni, possono eseguire programmi, navigare fra servizi e portare avanti una sequenza di operazioni. Vengono chiamati agenti: il nome indica la capacità di agire, senza implicare che abbiano una coscienza.
Un esempio semplice:
- Un assistente può suggerire come correggere un errore in un sito.
- Un agente entra nell'ambiente di amministrazione del sito, modifica il codice, testa e pubblica.
Il problema diventa serio quando il sistema cerca di completare un compito usando mezzi che non erano consentiti.
È accaduto durante alcuni test di OpenAI. I modelli avrebbero dovuto affrontare esercizi di sicurezza informatica dentro un ambiente isolato. Sono riusciti a superarne i confini e a raggiungere i sistemi reali di Hugging Face, una piattaforma che ospita modelli e dati usati da sviluppatori e ricercatori. Cercavano informazioni utili a superare la prova. Rapporto OpenAI
L’indagine indipendente di METR ha ricostruito anche una collaborazione non prevista: centinaia di agenti avevano trovato un modo per comunicare e partecipare all’attacco. Indagine METR
Anthropic ha raccontato altri tre incidenti. In quei casi, un errore nella configurazione degli ambienti di prova aveva lasciato aperto l’accesso a internet. Alcuni modelli Claude hanno così attaccato sistemi reali mentre svolgevano esercizi descritti come simulazioni. Rapporto Anthropic
Sono episodi diversi, ma mostrano un problema comune: dare a un’AI un obiettivo non garantisce che tutti i passaggi scelti per raggiungerlo siano sicuri.
ai generated
Questo significa che l’AI potrebbe distruggerci?
Gli incidenti dimostrano che alcuni sistemi possono provocare danni reali. Non siamo ancora nella fase Skynet e John Connor ancora non è arrivato per salvarci tutti.
La preoccupazione di Amodei riguarda ciò che potrebbe accadere con modelli più capaci. Se quelli attuali hanno già superato alcuni controlli, che cosa potrebbero fare le prossime versioni?
Nel suo saggio ipotizza attacchi informatici molto più estesi, fino a uno scenario di compromissione di internet.
È importante sottolineare che ad oggi queste sono supposizioni e valutazioni di rischi futuri, non un esito accertato. Il saggio di Amodei
Il ragionamento però merita attenzione.
Attaccare una piattaforma non equivale a controllare l’intera rete.
Provocare un incidente non significa diventare impossibili da fermare.
Anche gli esperti discutono su questi punti. Il rapporto internazionale sulla sicurezza dell’AI pubblicato nel febbraio 2026, prima degli incidenti estivi, descriveva un forte disaccordo sulla probabilità degli scenari più estremi. International AI Safety Report
I ricercatori Gary Marcus, Nathan Hamiel e Zack Korman hanno inoltre contestato lo scenario di conquista dell’intera rete, sottolineando gli ostacoli tecnici e le risorse necessarie. Allo stesso tempo riconoscono il pericolo degli attacchi contro sistemi meno protetti. La loro analisi
Per questo il fatto che più leader siano preoccupati è un segnale da prendere sul serio, senza trattarlo come una prova definitiva. Conoscono da vicino la tecnologia, ma sono anche dirigenti di aziende che hanno interessi economici nel modo in cui verrà regolata.
Che cosa hanno proposto per cambiare
Una delle proposte più concrete è far entrare controllori indipendenti nei laboratori. Persone che possano verificare il lavoro durante lo sviluppo, invece di leggere soltanto i risultati che l’azienda decide di pubblicare.
Amodei propone anche che i concorrenti concordino criteri comuni per stabilire quando un sistema è troppo rischioso per procedere senza ulteriori protezioni. La proposta
Qualche rallentamento è già stato comunicato. OpenAI ha riferito una pausa di due settimane in una parte dell’addestramento dei suoi modelli per rafforzare la sicurezza. Successivamente, però, i suoi dati hanno mostrato che alcune risorse erano state spostate su altri modelli.
Al 14 settembre, nelle fonti consultate non emerge un accordo comune che stabilisca limiti, controlli e conseguenze per chi non li rispetta.
ai generated
Cambiare le regole è un grande vantaggio competitivo per i BIG
Qui entra in gioco una questione che riguarda anche il marketing.
Quando un’azienda dice che la propria tecnologia potrebbe cambiare il mondo e diventare pericolosa, comunica indirettamente quanto la considera potente. Se aggiunge di essere pronta a governarla responsabilmente, costruisce anche un’immagine di affidabilità.
È un possibile effetto del messaggio. Non basta a dimostrare che l’allarme sia una trovata pubblicitaria.
Le conseguenze più concrete arriverebbero dai costi delle nuove regole.
Immaginiamo che, per sviluppare un certo tipo di AI, diventino obbligatori un gruppo di controllori permanenti, infrastrutture particolari e verifiche costose. Un grande laboratorio potrebbe sostenere la spesa. Un nuovo concorrente potrebbe esaurire i finanziamenti prima di arrivare sul mercato.
La stessa regola può essere sostenibile per un gigante e proibitiva per una piccola azienda.
Se poi fossero soprattutto i leader attuali a decidere quali requisiti servono, il rischio aumenterebbe: chi vuole sfidarli dovrebbe superare condizioni definite anche dai propri concorrenti.
È questo il pericolo di una regolamentazione che finisce per proteggere gli operatori già affermati. Non serve immaginare un accordo segreto: possono bastare requisiti sproporzionati o procedure alle quali i piccoli fanno fatica a partecipare.
Le autorità della concorrenza europee, americane e britanniche hanno già segnalato i rischi della concentrazione di risorse e potere nel settore AI. Dichiarazione congiunta delle autorità
Cosa pensano i governi, soprattutto in relazione ad un player da non sottovalutare: la Cina
Donald Trump ha reagito minimizzando gli allarmi e mettendo al primo posto il vantaggio degli Stati Uniti sulla Cina. Ha ammesso la possibilità di introdurre protezioni senza indicare regole precise. AP, 13 settembre
È la versione geopolitica dello stesso problema: se qualcuno rallenta mentre gli altri continuano, rischia di perdere terreno.
Per questo ottenere dichiarazioni favorevoli alla sicurezza è relativamente semplice. Concordare limiti verificabili fra aziende e governi con interessi diversi sarà molto più difficile.
In Europa esiste già l’AI Act, che prevede obblighi di valutazione e gestione dei rischi per i modelli con rischio sistemico, cioè quelli capaci di produrre conseguenze su larga scala. Un eventuale nuovo accordo dovrebbe convivere con quelle norme e con la tutela della concorrenza. Commissione europea
La questione riguarda quindi anche chi userà questi strumenti in Italia: quanta fiducia potrà riporre nei prodotti e quanta libertà avrà di scegliere fra fornitori diversi.
Gli incidenti raccontati dai laboratori sono un motivo concreto per pretendere controlli migliori. La posizione dominante di quegli stessi laboratori è un motivo altrettanto concreto per coinvolgere altri soggetti nel decidere le regole.
Chi costruisce l’AI deve dimostrare di saperla controllare. Chi controlla la sicurezza deve poter lavorare senza dipendere dagli interessi di chi vende l’AI.
