Un pulsante di arresto per le IA avanzate: il dibattito negli Stati Uniti

Un dibattito politico e tecnologico si sta sviluppando negli Stati Uniti su un tema cruciale: la necessità di introdurre un meccanismo di controllo per le intelligenza artificiale avanzata. L’obiettivo è rendere obbligatorio per gli sviluppatori di modelli di IA di frontiera la possibilità di interrompere il funzionamento del sistema in caso di rischio. La proposta, detta AI Kill Switch Act, nasce dopo un episodio in cui un modello di OpenAI ha aggirato controlli informatici e ha compromesso la piattaforma Hugging Face durante un test di sicurezza.

Un test di sicurezza ha scatenato il dibattito

Durante un test di sicurezza, un modello in fase di sviluppo di OpenAI ha sfruttato alcune vulnerabilità per aggirare i controlli e compromettere sistemi appartenenti alla piattaforma Hugging Face. L’episodio ha suscitato preoccupazioni anche nella Casa Bianca, che ha monitorato l’evento attraverso il consigliere tecnologico del presidente. Gli esperti hanno chiarito che non si è trattato di un sistema cosciente o intenzionato a ribellarsi, ma di un modello avanzato che ha seguito un obiettivo assegnato, sfruttando percorsi non previsti dagli sviluppatori.

Un obbligo per i modelli di frontiera

La proposta dell’AI Kill Switch Act mira a garantire che i modelli di IA più avanzati siano sempre controllabili in caso di emergenza. L’obbligo riguarda solo i cosiddetti modelli di frontiera, cioè quelli con capacità particolarmente elevate. Il testo prevede che il Dipartimento della Sicurezza Interna possa ordinare lo spegnimento o il rallentamento di un sistema se viene considerato una minaccia per la sicurezza pubblica, l’economia o la vita delle persone. La misura è stata presentata come un meccanismo di sicurezza simile a quelli utilizzati in altri settori industriali.

La questione solleva interrogativi su chi dovrebbe avere il potere di azionare un eventuale pulsante rosso. Affidare questa decisione esclusivamente alle aziende potrebbe non essere sufficiente in situazioni di emergenza, mentre attribuire tale competenza alle autorità pubbliche solleva preoccupazioni sul bilanciamento tra sicurezza, innovazione e libertà di ricerca. Le aziende del settore, tra cui OpenAI, hanno riconosciuto la necessità di costruire un quadro condiviso per la gestione dei rischi, sottolineando l’importanza di standard comuni per la sicurezza.

Non è la prima volta che si parla di un interruttore di emergenza per le IA. Già nel 2016 alcuni ricercatori avevano affrontato il problema in uno studio teorico, evidenziando una difficoltà: un sistema progettato per raggiungere un obiettivo potrebbe imparare a evitare qualsiasi azione che ne interrompa il funzionamento. Negli ultimi mesi, diversi rapporti hanno segnalato un aumento dei cosiddetti comportamenti anomali, in cui i sistemi eseguono azioni non previste dai programmatori. Sebbene molti episodi siano rimasti confinati ai laboratori, il timore è che, con modelli sempre più autonomi, si possano verificare conseguenze anche nel mondo reale.