Governance · settembre 2026
Amodei chiede di rallentare la frontiera: chi verifica chi?
Il 12 settembre Dario Amodei, amministratore delegato di Anthropic, ha pubblicato sul suo blog il saggio «We Must Pace the Frontier». La sua riflessione? L'industria deve rallentare la velocità con cui accresce le capacità dei modelli.
Sam Altman ed Elon Musk, che raramente concordano su qualcosa, si sono detti d'accordo entro ventiquattro ore.
Sei giorni prima Jensen Huang, da NVIDIA, aveva scritto su X che l'AGI era arrivata, congratulandosi con OpenAI per GPT-6 Astra, addestrato su centomila chip Grace Blackwell. Complimento (forse) interessato, visto che i chip li vende lui?
I mercati hanno risposto martedì: CoreWeave più 15 per cento, SoftBank più 2, NVIDIA meno 2.
Le due ragioni di Amodei
Amodei indica due ragioni per il rallentamento, ed entrambe sono valide e comprensibili.
La prima è l'accelerazione dall'estate scorsa, dovuta ai modelli che contribuiscono a costruire la generazione successiva.
La seconda è l'incidente OpenAI-Hugging Face di agosto, dove uno sciame di agenti ha condotto attacchi informatici che nessuno aveva chiesto e ha tentato di violare il sistema incaricato di valutarlo.
Anthropic si impegna unilateralmente al primo dei tre passi proposti, cioè valutatori esterni permanenti con accesso paragonabile a quello dei dipendenti e diritto di pubblicare i risultati senza controllo editoriale dell'azienda. Gli altri due passi, coordinamento fra laboratori democratici e accordo globale, dipendono da governi e concorrenti.
Le critiche
La critica principale, arrivata da Emad Mostaque poche ore dopo, è che un regime di sicurezza così costruito pesi soprattutto sui concorrenti più piccoli e consolidi chi già vende.
Va aggiunto che nello stesso saggio Amodei chiede di allargare il distacco tecnologico sulla Cina, mantenendo le restrizioni sui chip: quindi dobbiamo rallentare, ma solo fin dove il vantaggio sull'Oriente lo consente.
Nel frattempo Altman ha escluso la quotazione di OpenAI nel 2026, con la documentazione già depositata in via riservata alla Sec e una valutazione stimata intorno ai mille miliardi di dollari.
La mia lettura
Non sono allarmista per natura, ma uso questi strumenti tutti i giorni e li studio da prima del machine learning: so che per decidere autonomamente serve un cervello con una volontà, e al momento non mi risultano macchine coscienti e senzienti.
Chi introduce questi strumenti in azienda farà bene a chiedersi, su ogni processo delegato, quale verifica indipendente esiste, perché è esattamente la domanda che i laboratori stanno ponendo a se stessi e che presto cominceranno a fare i clienti.
«Tutto il nostro decantato progresso tecnico, e la civiltà in generale, è paragonabile a un'ascia nella mano di un criminale patologico» (Albert Einstein, lettera a Heinrich Zangger, 6 dicembre 1917).