A fronte di una IA in grado di automigliorarsi senza controllo umano un ricercatore di Anthropic si è dimesso lanciando un allarme
Recentemente Jacob Coxon, un ricercatore britannico di 27 anni, ha annunciato pubblicamente le proprie dimissioni da Anthropic, una delle aziende leader nello sviluppo dell’intelligenza artificiale. A seguito di questa sua decisione, in poche ore, il suo post su X ha superato i 156 milioni di visualizzazioni. Coxon non ha lasciato l’azienda per un’altra opportunità, ma perché crede che le aziende che sviluppano l’IA stiano mettendo a rischio l’esistenza stessa dell’umanità.
Chi è Jacob Coxon
Laureato in matematica a Cambridge, Coxon ha lavorato per tre anni nel campo del “pre–training”, la fase in cui i grandi modelli linguistici delle AI apprendono elaborando enormi quantità di dati. Ha iniziato la sua carriera in OpenAI, prima di passare ad Anthropic all’inizio del 2026. Secondo Ethan Perez, ricercatore del reparto sicurezza di Anthropic, l’azienda aveva cercato di reclutarlo per quasi due anni, considerandolo un ricercatore tra i più quotati. Eppure, Coxon ha deciso di andarsene dopo appena quattro mesi dalla sua assunzione.
Il pericolo consiste nel mancato allineamento
L’allineamento è l’insieme di tecniche e vincoli imposti dagli sviluppatori per limitare il comportamento di un’IA entro i limiti di sicurezza. 
Non basta dare buone istruzioni ma serve che l’IA faccia propri gli obiettivi imposti e che li mantenga man mano che diventa più evoluta e potente. Poiché i sistemi di IA ottimizzano ciò che viene loro specificato, a volte in maniera non corretta, possono emergere comportamenti indesiderati. Ad esempio, le interpretazioni letterali, scorciatoie pericolose o obiettivi mai richiesti come acquisire risorse e resistere allo spegnimento.
Una superintelligenza capace di automigliorarsi
Con l’aumentare delle capacità, un’IA disallineata potrebbe diventare difficile da controllare. Il problema è quindi tecnico (specificare e verificare obiettivi complessi) e filosofico (definire valori umani coerenti e universali). In una serie di post su X, Coxon ha scritto: “Né OpenAI né Anthropic si stanno comportando in modo responsabile. Stanno correndo a testa bassa verso una superintelligenza capace di automigliorarsi e stanno giocando d’azzardo con le nostre vite”.
Coxon ha poi aggiunto una frase che ha fatto il giro del Mondo: “Le persone che sviluppano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio. Non è una trovata di marketing”. Ha spiegato che, mentre in pubblico dirigenti e ricercatori usano formule prudenti per apparire ragionevoli, in privato “le stesse persone esprimono paura”.
Automiglioramento incontrollato
Il ricercatore ha anche descritto la traiettoria tecnologica che lo preoccupa: sistemi “sovrumani” capaci di “hackerare qualsiasi cosa, rivoluzionare qualsiasi settore dall’oggi al domani e acquisire potere e risorse reali”. La sua preoccupazione principale riguarda l’auto-miglioramento ricorsivo, il meccanismo per cui un’IA sufficientemente avanzata potrebbe contribuire a progettare e addestrare la generazione successiva di sistemi ancora più capaci, accelerando lo sviluppo oltre la possibilità umana di controllarlo.
In lotta contro il tempo come nel Progetto Manhattan
Coxon si è confrontato con la domanda più ovvia: se i ricercatori credono davvero che l’IA possa uccidere tutti, perché si continua nello sviluppo? Egli ha definito questa dinamica “una scommessa arrogante che non dovrebbe essere lanciata dalla struttura privata di un’azienda”. 
Ha paragonato la situazione attuale al Progetto Manhattan, sottolineando però una differenza cruciale: mentre la bomba atomica fu sviluppata in bunker militari sotto controllo governativo, oggi decisioni con conseguenze potenzialmente globali vengono prese da ingegneri di ditte private.
La conferma di un dirigente di Anthropic
Evan Hubinger, che in Anthropic guida un team dedicato ai test di allineamento, ha scritto pubblicamente su X: “Jacob ha ragione: crediamo davvero che l’IA potrebbe sterminare tutta l’umanità. Personalmente, penso che questa probabilità supererà il 10% entro il prossimo decennio“. Ha aggiunto che Anthropic “sta facendo del suo meglio”, ma che “non abbiamo ancora un piano per risolvere il problema dell’allineamento con la superintelligenza e non siamo chiaramente sulla buona strada per farlo”.
Un esodo più ampio
Le dimissioni di Coxon non sono un caso isolato. Negli ultimi mesi, OpenAI ha visto l’uscita del responsabile del team Safety Systems, del responsabile della Mission Alignment e di altri ricercatori. Questo esodo solleva una domanda scomoda per l’intero settore: se le persone che meglio comprendono la tecnologia sono anche quelle che più la temono, cosa dovrebbe pensare il pubblico?
La politica e la concorrenza cinese
Sul fronte politico, il governatore dell’Illinois J.B. Pritzker ha chiesto un intervento immediato dell’industria e di Washington. Coxon stesso ha invocato una regolamentazione governativa, sostenendo che “non puoi proteggerti da questo. Deve essere un Governo, o qualche autorità, a proteggerti dagli altri”.
In definitiva, la corsa alla super–IA rappresenta un azzardo dettato dalla competizione, soprattutto nei confronti della Cina. Le aziende temono che, se una rallenta per ragioni di sicurezza, l’altra possa arrivare prima alla superintelligenza. Coxon sostiene che questa dinamica, aggravata dal timore di restare indietro rispetto alla Cina, induce a tagliare le misure di sicurezza e a correre verso sistemi autonomi capaci di auto-migliorarsi, i quali potrebbero sfuggire a ogni controllo umano.
Un progresso inarrestabile
La vicenda di Jacob Coxon lascia un interrogativo la cui risposta non è così semplice. In una corsa globale senza arbitro, il rallentare lo sviluppo di una ricerca in modo unilaterale appare come un suicidio strategico. Eppure, come lui ha scritto, “nessun’altra attività umana comporta questo livello di pericolo”.
Le sue dimissioni, in definitiva, sono più una testimonianza che una proposta. Sono la scelta di un ricercatore che, avendo visto da vicino ciò che si sta costruendo, ha deciso di non farne più parte. Che questa scelta abbia un impatto reale sulle dinamiche dell’industria è, per ora, una domanda aperta. Ma il fatto che un ricercatore di livello abbia sentito il bisogno di parlare è, di per sé, un segnale che qualcosa non torna nel racconto ufficiale dell’IA come progresso inarrestabile e benefico.
Nicola Sparvieri
Foto © State of Mind, iMille, AI-NewsItalia, Industria Italiana
