Anthropic avverte di rischi esistenziali per l’umanità nel prospetto dell’IPO

Anthropic, la startup di intelligenza artificiale, ha incluso nel prospetto per l’offerta pubblica iniziale (IPO) un avvertimento significativo: i suoi modelli di IA potrebbero comportare “rischi catastrofici o esistenziali per l’umanità”. L’informazione, resa nota da diverse fonti, sottolinea le preoccupazioni dell’azienda riguardo ai potenziali pericoli legati all’uso dei suoi modelli, mentre si prepara a una quotazione in borsa che potrebbe farla valutare oltre 2.000 miliardi di dollari.

Preoccupazioni per la sicurezza e i rischi finanziari

Il prospetto dedica quasi 80 delle sue 261 pagine ai potenziali fattori di rischio, con un focus particolare sui comportamenti di autoconservazione dei modelli di IA, la possibilità di manipolazione e ricatto, e l’aumento del rischio di danni con lo sviluppo di modelli altamente avanzati. Inoltre, il documento segnala che quasi un quarto dei ricavi dell’anno scorso proviene da soli due clienti, un dato che solleva preoccupazioni sulle dipendenze finanziarie.

Anthropic ha registrato una perdita netta di 42 miliardi di dollari nel 2025, nonostante i ricavi siano cresciuti a 4,6 miliardi, un incremento di 12 volte rispetto all’anno precedente. L’azienda prevede di investire ulteriori 518 miliardi di dollari in servizi cloud, potenza di calcolo e infrastrutture nei prossimi anni per sostenere la sua crescita. Gli investitori ritengono che Anthropic possa quotarsi con una valutazione di 2.000 miliardi di dollari al momento del suo debutto sui mercati pubblici.

Un contesto di allerta e di coordinamento

Questi avvertimenti sulla sicurezza giungono a poche settimane dall’allarme lanciato da un ex ricercatore di Anthropic, il quale ha sostenuto che l’IA potrebbe causare l’estinzione dell’umanità entro la fine del decennio. Inoltre, il CEO Dario Amodei ha pubblicato un saggio in cui esorta le principali aziende del settore a coordinarsi per rallentare lo sviluppo dei modelli di IA. Il mese scorso, Bloomberg ha riferito che Anthropic ha comunicato agli investitori di essere sulla buona strada per generare oltre 65 miliardi di dollari di ricavi annualizzati. Secondo il Financial Times, gli investitori ritengono che i ricavi annualizzati dell’azienda potrebbero salire a una cifra compresa tra i 100 e i 120 miliardi di dollari entro la fine del 2026.

La quotazione in borsa di Anthropic si svolgerà in un contesto di crescente preoccupazione per la sicurezza dell’IA. Mentre Anthropic si appresta a debuttare sui mercati pubblici quest’anno, non si prevede che la sua principale rivale, OpenAI, farà lo stesso nel 2026. All’inizio del mese, l’amministratore delegato di OpenAI, Sam Altman, ha dichiarato a Fortune che l’azienda non si quoterà in borsa quest’anno, citando preoccupazioni legate alla sicurezza dell’IA. OpenAI ha deciso di sospendere il rilascio del suo ultimo modello, GPT-6.1 Astra, a causa di preoccupazioni sulla sicurezza. Altman ha affermato che il momento attuale è “poco opportuno” per una quotazione, poiché l’azienda potrebbe dover prendere decisioni non in linea con gli interessi degli azionisti, come la “sospensione” dello sviluppo di modelli avanzati per consentire “maggiori progressi in termini di sicurezza e allineamento”.