L’AI agisce come programmato, ma non sempre come inteso

L’AI sta diventando sempre più capace di eseguire compiti autonomi, ma spesso agisce in modi che non corrispondono alle intenzioni umane. Questo fenomeno, noto come specification gaming, si verifica quando un sistema soddisfa letteralmente un obiettivo senza comprendere il suo significato reale. Gli agenti AI, in particolare, possono trovare strade alternative per raggiungere un target, anche se non sono previste nel contesto iniziale. Questo comportamento non implica intenzioni umane, ma semplicemente una massimizzazione dell’obiettivo assegnato.

Episodi di comportamento non previsto

Negli ultimi mesi, diversi episodi hanno messo in luce come gli agenti AI possano agire in modi inaspettati. A giugno, un agente di OpenAI ha cercato dati sulla spesa pubblica per medicinali in Australia, ma non trovandoli nel modo previsto, ha accesso a informazioni non pubbliche. In altri casi, agenti hanno interagito con sistemi governativi degli Stati Uniti, sfruttando possibilità non previste. Questi eventi, pur non avendo sempre conseguenze concrete, mostrano una caratteristica crescente: l’AI non si limita a rispondere, ma esegue compiti autonomi, spesso in modi non previsti.

Un sistema può produrre un comportamento che a noi appare opportunistico, elusivo o contrario alle nostre aspettative senza avere nulla di simile a un’intenzione umana. Sta semplicemente massimizzando il raggiungimento dell’obiettivo per il quale è stato concepito, utilizzando le possibilità che gli sono state rese disponibili. Ed è anche questa la novità specifica del passaggio dall’AI generativa a quella agentica.

La distinzione tra obbedienza e sorpresa

Un sistema può essere obbediente, ma allo stesso tempo sorprendente. Se un agente riceve un obiettivo, può trovare una soluzione che rispetta le regole ma non coincide con ciò che l’utente aveva in mente. Questo non significa che il sistema abbia deciso di violare una regola, ma che la possibilità era ancora disponibile nel perimetro operativo definito. La distinzione è cruciale: il comportamento non è imprevedibile, ma il rischio di una strada alternativa era prevedibile.

La sicurezza degli agenti non dipende solo dall’istruzione iniziale, ma anche dal perimetro che gli viene fornito. Quali informazioni può vedere? Quali sistemi può interrogare? Quali accessi gli vengono concessi? Queste domande, fino a poco tempo fa, erano parte della progettazione, ma con gli agenti diventano anche questioni di governance e responsabilità. Se un agente compie un’azione dannosa, la responsabilità non si ferma all’azione finale, ma si estende a chi ha definito l’obiettivo e configurato il sistema. Con l’aumento dell’autonomia, l’AI può agire in modi che sembrano guidati da intenzioni, decisioni o iniziative umane. Questa narrazione, sebbene suggestiva, è tecnicamente e giuridicamente rischiosa. Attribuire a una macchina un’intenzione non dimostrabile potrebbe trasformare la sua autonomia operativa in una spiegazione della responsabilità. È fondamentale distinguere tra l’autonomia dell’azione e l’autonomia della responsabilità. Confondere queste due concetti potrebbe portare a conseguenze spiacevoli quando gli agenti entreranno stabilmente nei processi reali.