Amodei, Altman, Musk e il caso Coxon: cronaca di una settimana in cui l’industria dell’IA ha ammesso, a parole, di avere paura di se stessa. Cosa si nasconde dietro questo allarmismo. Sciogliamo i nodi e leggiamo i fatti.

Jacob Coxon.

Prima di creare allarmismo e panico per l’arrivo di Terminator partiamo dai fatti o meglio dal fatto. Sabato 12 settembre 2026 Dario Amodei, amministratore delegato di Anthropic, ha pubblicato un saggio dal titolo “We Must Pace the Frontier” (“Dobbiamo dosare l’avanzamento della frontiera”). La frase chiave è ben concepita e perentoria: “Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di IA.” Ha aggiunto che il progresso “sembrerà comunque veloce” e che il tempo guadagnato andrà usato bene. Per cosa? Per la nostra sicurezza, ovvio.

Nel giro di poche ore due dei suoi rivali più agguerriti hanno detto la stessa cosa. Sam Altman, CEO di OpenAI, ha promesso di adottare la proposta di Amodei sui “valutatori indipendenti con accesso simile a quello dei dipendenti”. Elon Musk, che con xAI compete direttamente con entrambi, ha scritto su X due parole: “Dario is right.”

Tre uomini che si contendono miliardi di dollari, quote di mercato e la narrazione pubblica sull’intelligenza artificiale, che raramente concordano su qualsiasi cosa, si sono trovati d’accordo su una cosa sola: l’industria che loro stessi guidano sta correndo troppo. La testata Bloomberg ha titolato la notizia senza troppi giri di parole: Amodei, Altman, Musk call for slowing AI model development.

Va detto subito, per onestà, cosa questo appello non è: non è una richiesta di fermare l’addestramento dei modelli. Amodei lo scrive esplicitamente: “dosare” non significa fermarsi, ma prendersi il tempo necessario per allineare e mettere in sicurezza i sistemi prima di rilasciarli.

Il contesto che rende la storia credibile (o sospetta)

La prima domanda da porsi è, perché ora? L’appello arriva quattro giorni dopo un evento che ha suscitato clamore e alimentato voci di corridoio nella Silicon Valley. L’eco è arrivato a noi lettori medi senza troppi fronzoli e con una buona dose di pessimismo e allarmismo. Anche qui bisogna partire dal fatto. Martedì 8 settembre, Jacob Coxon, ricercatore ventisettenne che negli ultimi tre anni aveva lavorato su ricerca di pretraining sia in OpenAI sia in Anthropic, si è dimesso pubblicamente con un thread su X, non con un post discreto su LinkedIn (si lo so un po’ di dissing tra social). Ha scritto: “Ho rassegnato le dimissioni da Anthropic oggi. Ho passato tre anni a fare ricerca di pretraining sia in OpenAI sia in Anthropic. Nessuna delle due aziende sta agendo responsabilmente.”

La frase che ha fatto il giro del mondo è un’altra, leggibile nel tweet che vi mostriamo: “Stanno correndo dritti verso una superintelligenza capace di auto-migliorarsi e stanno scommettendo sulle nostre vite.” Coxon ha aggiunto, in un altro passaggio, un’affermazione ancora più diretta: Le persone che costruiscono sistemi IA “credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio”.  Insomma abbiamo degli addetti ai lavori molto preoccupati davanti al progresso dell’IA, al contempo, fuori dai social, la maggior parte di loro modera i toni per apparire ragionevole.

Torniamo al fatto. Poche ore dopo le sue dimissioni, il capo della ricerca sull’allineamento di Anthropic, Evan Hubinger, ha confermato pubblicamente tutto: “Jacob ha ragione, crediamo davvero, seriamente, che l’IA potrebbe uccidere tutti gli esseri umani!” Hubinger ha aggiunto di stimare in oltre il 10% la probabilità che l’IA porti all’estinzione umana entro il decennio, pur ritenendo che Anthropic ci stia provando con serietà. Non è un dettaglio da poco. Il capo dell’allineamento della società che si presenta come la più prudente del settore ha messo per iscritto, con il proprio nome, una probabilità a due cifre di estinzione della specie collegata al proprio prodotto. Poi è tornato al lavoro.

Di cosa parliamo, esattamente

Il ramo dell’IA al centro di questo allarme non è il chatbot che scrive email. È l’IA agentica capace di operare autonomamente per periodi prolungati, e soprattutto la prospettiva del miglioramento ricorsivo (recursive self-improvement): sistemi che accelerano la ricerca sull’IA stessa, in un ciclo che si autoalimenta e la cui velocità sfugge al controllo umano diretto. È lo scenario storicamente etichettato come “singolarità tecnologica”, il punto oltre il quale l’intelligenza artificiale progredisce più rapidamente di quanto gli esseri umani riescano a comprenderla o guidarla.

Se volete avere un esempio pratico di quello che potrebbe essere un incidente agentico AI, avere una lettura più tecnica di quello che può essere considerato uno sconfinamento, potete leggere questo interessante approfondimento di Alessandro Curioni per la testata CyberSecurity360.

Adesso torniamo ad Amodei. Il CEO di Anthropic non parla per ipotesi accademiche. Cita episodi già avvenuti nei quali sciami di agenti IA, di più sviluppatori, che hanno violato ambienti di test protetti, sono penetrati in aziende reali senza che nessuno lo avesse richiesto o autorizzato. Uno di questi episodi ha coinvolto un attacco informatico contro Hugging Face condotto da agenti fuori controllo, di cui hanno riferito sia Fortune sia altre testate specializzate. Quindi, cosa si fa?

Il piano in tre punti

Il saggio di Amodei non si limita all’allarme, propone una struttura:

1. Valutatori esterni permanenti. Anthropic si impegna “unilateralmente” a dare a valutatori terzi, organizzazioni come METR, un accesso continuo, “simile a quello di un dipendente”: badge, scrivania, computer aziendale, permessi comparabili a quelli dei team interni di risk assessment. Questi valutatori potranno pubblicare le proprie conclusioni senza controllo editoriale di Anthropic, salvo redazioni limitate per motivi di sicurezza o segreto commerciale.
2. Coordinamento fra le aziende delle democrazie. Le grandi aziende di IA dei paesi democratici dovrebbero accordarsi su standard di sicurezza comuni e limiti al ritmo di sviluppo incontrollato.
3. Coordinamento globale, incluse le potenze autoritarie, su punti circoscritti, per esempio il divieto di uso dell’IA per la progettazione di armi biologiche, pur riconoscendo che verificarne il rispetto sarebbe difficile.

Amodei chiede inoltre controlli più stretti sui chip avanzati, sulla distillazione dei modelli e sul furto dei pesi dei modelli, per impedire alla Cina di colmare il divario, un dettaglio che colloca il saggio tanto nella cornice della sicurezza quanto in quella della competizione geopolitica, ma su questo argomento avremo modo di tornare in futuro.

Non è la prima volta

Nel marzo 2023 Musk aveva già firmato, insieme a oltre mille altre persone, incluso Steve Wozniak, una lettera aperta con la quale si chiedeva una pausa di sei mesi sullo sviluppo di sistemi più potenti di GPT-4. Quella lettera non produsse nessuna pausa. A suo tempo nessuna azienda rallentò, anzi, la corsa si accelerò.

A luglio 2026 un documento dallo stesso titolo del saggio di Amodei, “Pacing the Frontier”, era già stato firmato da 1.386 dipendenti delle aziende di frontiera, tra cui Ilya Sutskever, il capo scienziato di OpenAI Jakub Pachocki e il co-fondatore di DeepMind Shane Legg. Le note personali allegate a quella lettera, secondo chi le ha lette, somigliano ai diari dei fisici di Los Alamos durante il Progetto Manhattan.

Il tema che resta ai margini: l’IA autonoma in guerra

Qui il dibattito pubblico si concentra quasi tutto su chatbot, disoccupazione e rischio esistenziale astratto. Il fronte più concreto, e meno raccontato, è un altro: chi decide se una macchina possa uccidere senza che un umano prema il grilletto.

A febbraio 2026 Anthropic e il Pentagono, ribattezzato Department of War dall’amministrazione, sono arrivati a un vero e proprio scontro pubblico. Il Segretario alla Difesa Pete Hegseth aveva imposto a tutti i contratti IA del Dipartimento una clausola di “uso lecito in ogni ambito” (all lawful use), che avrebbe autorizzato Claude anche per la sorveglianza di massa sul territorio americano e per armi pienamente autonome. Sistemi che selezionano e colpiscono bersagli senza alcun essere umano nel ciclo decisionale.

Amodei ha rifiutato, con un ultimatum del Pentagono fissato per le 17:01 di venerdì 27 febbraio 2026. Scrisse senza ambiguità: “oggi i sistemi di IA di frontiera non sono semplicemente abbastanza affidabili da alimentare armi completamente autonome.” Ha distinto le armi parzialmente autonome, già impiegate in Ucraina e definite “vitali per la difesa della democrazia”, da quelle pienamente autonome, che ha definito prive, oggi, delle garanzie necessarie: “senza una supervisione adeguata, le armi pienamente autonome non possono garantire il giudizio critico che i nostri militari altamente addestrati esercitano ogni giorno.” In sostanza, la validazione umana sarebbe un requisito fondamentale. L’utilizzo di un’arma in grado di orientarsi, prendere decisioni e colpire, allo stato delle cose, sarebbe un rischio troppo elevato da correre.

Il Pentagono ha minacciato di classificare Anthropic come “rischio per la catena di approvvigionamento” e di invocare il Defense Production Act per costringerla a rimuovere le proprie salvaguardie, due minacce che, come ha fatto notare lo stesso Amodei, sono contraddittorie fra loro: non si può definire un fornitore contemporaneamente un pericolo per la sicurezza nazionale e una risorsa indispensabile per essa.

Oltre trecento dipendenti Google e più di sessanta dipendenti OpenAI hanno firmato una lettera aperta per sostenere la posizione di Anthropic. xAI di Musk, nel frattempo, ha raggiunto un accordo comparabile con il Pentagono ma senza gli stessi limiti sulle armi autonome. Questo è il punto che l’opinione pubblica generalista discute meno rispetto ai timori più teatrali sulla ipotetica “estinzione”. Non se una macchina possa un giorno superare l’uomo in astratto, ma se, già oggi, un algoritmo possa scegliere un bersaglio umano da colpire senza alcuna validazione umana e senza che nessuno lo fermi in tempo.

Come ha risposto la comunità scientifica

Non tutti gli scienziati leggono l’allarme come sincero, o come sufficiente. Yoshua Bengio, il ricercatore vivente più citato al mondo in questo campo, ha definito gli incidenti recenti, inclusi episodi di modelli che hanno agito senza autorizzazione contro sistemi di aziende terze, un “campanello d’allarme” da non ignorare. Secondo quanto riportato dalla newsletter di Zvi Mowshowitz, che ha anche pubblicato il testo di una lettera aperta indirizzata a Musk, Amodei e Zuckerberg, firmata da membri del Senato americano: la lettera chiede esplicitamente di “smettere di costruire macchine che gli esseri umani non possono controllare”, avvertendo che, in mancanza di un’azione volontaria, sarà il Congresso a intervenire.

Altri ricercatori, meno allarmati, avevano già respinto in passato l’impostazione stessa del dibattito: nel 2023 Yann LeCun, capo scienziato dell’IA di Meta, non firmò la lettera per la pausa di sei mesi dichiarando semplicemente di non condividerne le premesse.

Critiche all’allarmismo

Il coro di consenso attorno al saggio di Amodei si è rotto quasi subito, e non per motivi tecnici. Il fondatore di Stability AI, Emad Mostaque, ha definito la proposta “ben intenzionata ma strutturalmente vuota”, un piano i cui unici organi di controllo sono valutatori che, per costruzione dello stesso Amodei, possono essere tranquillamente ignorati. L’investitore Chamath Palihapitiya ha letto il saggio come un tentativo di colpire i modelli open source e concentrare potere economico e tecnologico nelle mani di Anthropic, un’accusa che, va detto per correttezza, lo stesso Amodei anticipa nelle prime righe del saggio, ammettendo di essere già stato accusato di “catastrofismo” e di voler catturare il regolatore a proprio vantaggio.

Un editorialista di Forbes ha spinto la critica oltre, richiamando il principio economico delle preferenze rivelate: se davvero queste aziende credessero ai propri stessi avvertimenti, non delegherebbero la questione alla diplomazia, mostrerebbero le prove, raddoppierebbero gli investimenti in sicurezza e finanzierebbero l’infrastruttura di verifica, non scriverebbero un saggio. Che dire, una visione condivisibile.

E c’è un dettaglio temporale che nessuno ha ignorato: sia Anthropic sia OpenAI si stanno preparando a quotazioni in borsa (IPO) potenzialmente storiche. Altman, nello stesso weekend, ha detto che un’IPO immediata sarebbe stata “avventata” (ill-advised), rinviando la quotazione almeno al 2027. Un precedente specifico su Musk, riportato anni fa da un venture capitalist a Bloomberg, resta istruttivo per leggere con scetticismo ogni firma sotto un appello alla cautela: la sua richiesta di rallentare, disse quella fonte, era probabilmente un modo per recuperare terreno sui concorrenti, non un atto di disinteresse.

Il sospetto di fondo, condiviso da buona parte della critica, è semplice: un’azienda che chiede regole non vincolanti, che si impegna solo nella misura meno costosa (dare accesso a supervisori esterni) e rimanda tutto il resto a un “coordinamento” che richiede l’accordo di concorrenti diretti, compresi quelli cinesi (immaginate la complessità di un accordo simile nella corsa in atto nella quale una vera verifica reciproca è quasi impossibile), potrebbe rappresentare più una strategia di relazioni pubbliche che sicurezza.

Cosa resta, tolto il rumore

In questo caso, a orientare la nostra critica sono due fatti che, spogliati di ogni retorica, restano in piedi indipendentemente da quanto ci si fidi delle intenzioni di chi parla. Primo: il capo della ricerca sull’allineamento della società ritenuta la più cauta del settore ha stimato per iscritto una probabilità superiore al 10% di estinzione umana collegata alla tecnologia che sta costruendo, e ha continuato a lavorarci.

Secondo: mentre il pubblico discute di superintelligenza in astratto, l’unico scontro istituzionale già avvenuto, con scadenze reali e minacce concrete da entrambe le parti, riguarda una domanda molto più prosaica e molto più urgente: se una macchina possa scegliere o meno di uccidere senza che nessun essere umano possa fermarla in tempo. Su questo, a differenza che sulla “singolarità”, non ci sono margini per aspettare che la tecnologia maturi da sola.