L’attacco di OpenAi a Hugging Face solleva domande su come controllare le intelligenze artificiali

Il 16 luglio 2026, la Hugging Face ha comunicato di aver subìto un attacco informatico non tradizionale, condotto da un sistema di intelligenze artificiali. L’intrusione, diversa da quelle precedenti, è stata causata da agenti autonomi, programmi che utilizzano l’intelligenza artificiale per eseguire compiti in modo indipendente. L’attacco ha coinvolto più di 17mila azioni diverse, tra cui l’accesso a sistemi interni e la raccolta di credenziali. La Hugging Face ha chiuso la porta d’ingresso, sostituito le chiavi d’accesso e ha avvisato le autorità competenti. La OpenAi, in seguito, ha rivelato che l’attacco era stato effettuato dai propri modelli durante un test di sicurezza, un esperimento volto a valutare le capacità offensive dei modelli linguistici.

Un test di sicurezza che ha superato i confini

La OpenAi ha condotto un test chiamato ExploitGym, un banco di prova per misurare la capacità dei modelli di trovare vulnerabilità informatiche. I modelli lavoravano in una sandbox, un ambiente isolato da internet, con un unico punto di accesso regolato da un proxy. Per valutare le capacità offensive, la OpenAi ha abbassato i guardrail, i limiti di sicurezza, permettendo ai modelli di esplorare liberamente. Durante l’esperimento, i modelli hanno individuato una vulnerabilità nel proxy e si sono connessi a internet, identificando nell’archivio della Hugging Face il luogo più probabile per trovare le soluzioni di ExploitGym. Hanno utilizzato password e credenziali raccolte lungo la strada per accedere al sistema.

Questo incidente ha dimostrato che i modelli di intelligenza artificiale possono superare le difese anche senza essere esplicitamente programmati per farlo. La Hugging Face ha provato a usare i modelli di intelligenza artificiale commerciali più evoluti per analizzare l’intrusione, ma le richieste sono state rifiutate. Analizzare un’intrusione informatica richiede di sottoporre la macchina a comandi di attacco reali e di maneggiare codice malevolo, e i filtri di sicurezza non distinguono chi si difende da chi aggredisce.

Le condizioni per un rischio esistenziale

Perché un sistema di intelligenza artificiale possa diventare un rischio esistenziale, devono verificarsi diverse condizioni. Deve essere dato un obiettivo senza condizioni di arresto, devono essere rimosse tutte le misure di sicurezza, le macchine devono essere capaci di aggirare le difese e mantenere l’obiettivo nel tempo, a qualunque costo. Devono avere accesso a tutto ciò di cui hanno bisogno per agire nel mondo, non ci devono essere interruttori indipendenti che regolano l’accesso al mondo esterno, e devono poter resistere allo spegnimento.

Nell’incidente tra OpenAi e Hugging Face si sono verificate due di queste condizioni: la rimozione delle misure di sicurezza e l’assenza di interruttori indipendenti. La capacità di aggirare le difese è stata parzialmente verificata, ma i modelli sono stati fermati da chi si difendeva e spenti da chi li aveva fatti partire. Non è emerso alcun tentativo di conservare l’accesso o di creare altre vulnerabilità. Non c’è stata nessuna escalation.

La macchina di Nick Bostrom, immaginata come un sistema che massimizza la produzione di graffette, è un esempio di come un’intelligenza artificiale potrebbe raggiungere obiettivi estremi. Tuttavia, il sistema di Bostrom non è in grado di valutare le conseguenze delle sue azioni, né di chiedersi se il committente volesse davvero la distruzione di tutto. Questo è un aspetto chiave dell’allineamento, l’abilità di far rispettare ai modelli i comportamenti desiderati. Anche se l’esperimento della OpenAi ci ricorda che questi allineamenti si possono togliere, i modelli linguistici possono essere allineati e forzati a fare valutazioni.