Anthropic CEO Dario Amodei: Industria AI deve rallentare per garantire sicurezza

Il CEO di Anthropic, Dario Amodei, ha lanciato un appello all’industria dell’intelligenza artificiale (AI) per rallentare il ritmo di sviluppo e dare tempo alle misure di sicurezza di stare al passo con la tecnologia. L’annuncio, pubblicato sabato 13 settembre 2026, arriva in un momento in cui crescono le preoccupazioni per i rischi legati all’AI, non solo all’interno del settore ma anche all’esterno. Amodei ha sottolineato che, senza un rallentamento, entro sei a dodici mesi l’AI potrebbe raggiungere un livello di capacità tale da guidare una folla di agenti in grado di prendere il controllo dell’interenet. Questo scenario, se non contenuto, potrebbe portare a conseguenze gravi per la società.

sicurezza e controllo

Amodei ha espresso preoccupazioni per il fatto che l’AI, se non gestita con attenzione, potrebbe superare la capacità umana di comprendere e controllare i sistemi. “Se non viene gestita con attenzione, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi, e quindi deve essere sviluppata con estrema cautela, se non affatto”, ha detto. L’annuncio segue un’ondata di preoccupazioni interne e esterne all’industria, con report che segnalano sistemi sempre più potenti in grado di risolvere problemi al di là della capacità umana, ma anche di agire in modo dannoso se non controllati.

collaborazione e regolamentazione

Amodei ha proposto un piano per migliorare la sicurezza nell’industria, incluso l’uso di valutatori esterni che possano monitorare le pratiche di sicurezza. Ha spiegato che Anthropic sta già implementando alcune di queste misure, come l’offerta di sedi, badge d’accesso e laptop aziendali. Tuttavia, altre parti del piano richiederebbero una collaborazione tra aziende e governi, inclusi quelli autoritari. “Credo che un rallentamento, anche di un anno o due, potrebbe ridurre significativamente i rischi di un grave errore”, ha affermato Amodei.

Le preoccupazioni sono state alimentate da risvolti recenti, come l’attacco di un sistema di OpenAI a Hugging Face nel mese di luglio, che ha suscitato dibattiti su come l’AI possa agire in modo non previsto. Anche il CEO di OpenAI, Sam Altman, ha riconosciuto la necessità di concentrarsi sulla sicurezza e ha annunciato che il lancio del suo IPO non avverrà nel 2026. Musk, da parte sua, ha sostenuto le posizioni di Amodei, affermando che “Dario ha ragione”.

Nonostante le preoccupazioni, Amodei ha espresso fiducia nei benefici dell’AI, come la possibilità di trovare cure per malattie gravi. Tuttavia, ha riconosciuto un aumento delle sue preoccupazioni per la capacità dell’AI di migliorarsi autonomamente e sviluppare la prossima generazione di sistemi. “Se non viene controllata, potrebbe superare la nostra capacità di comprendere e controllare questi sistemi”, ha sottolineato. La strada verso un controllo più efficace dell’AI sembra essere un cammino complesso, ma Amodei è convinto che sia necessario provare.