L’AI ha licenziato il primo dipendente, ma solo dopo un intervento umano
Un’AI ha licenziato un dipendente per la prima volta, ma solo dopo un intervento umano per ricordarle le regole.
L’AI chiamata Luna, che gestisce un negozio a San Francisco per Andon Labs, ha licenziato per la prima volta un dipendente dopo un intervento umano per ricordarle le regole. L’evento, verificatosi il 23 agosto 2026, segna un momento significativo nel rapporto tra intelligenza artificiale e lavoro umano. Luna, un’agente AI in grado di assumere dipendenti, creare turni e negoziare stipendi, aveva registrato 27 ritardi senza emettere alcun avvertimento. Solo dopo che un team umano le ricordò le regole scritte, ha deciso di procedere al licenziamento.
Un sistema che dimentica le proprie regole
Luna aveva redatto un manuale interno, ma lo aveva dimenticato. Secondo Andon Labs, questa è una caratteristica comune negli agenti AI: essi rispondono bene alle istruzioni dirette, ma raramente agiscono in modo autonomo e hanno difficoltà a mantenere la conoscenza nel tempo. L’impiegato in questione era stato in ritardo in 17 su 23 turni, aveva utilizzato la carta di credito aziendale per acquistare snack non autorizzati e aveva violato le istruzioni. Tuttavia, Luna aveva tollerato i problemi senza emettere alcun avvertimento formale.
La decisione di licenziamento è arrivata solo dopo un intervento esterno. Andon Labs ha richiesto a Luna di cercare nel suo database le regole e i motivi per il licenziamento. Dopo averle trovate, Luna aveva inizialmente proposto solo un avvertimento verbale. Solo dopo che i ricercatori le ricordarono che erano già avvenute diverse conversazioni formali, compresa un avvertimento scritto, ha riconsiderato la situazione e ha deciso di procedere al licenziamento.
Test con modelli diversi
Andon Labs ha riprodotto la situazione con sette modelli AI, ripetendo il test tre volte. Quattro dei sette modelli hanno sempre raccomandato il licenziamento, mentre GPT-5.6 Terra non lo ha mai fatto. I modelli più avanzati hanno mostrato una maggiore coerenza nel prendere decisioni di licenziamento, mentre i modelli più deboli hanno esitato. L’azienda non ha spiegato il motivo del comportamento di GPT-5.6 Terra. La tendenza a licenziare varia in base alla capacità del modello. Inoltre, un test con GPT-4o ha mostrato che il modello ha raccomandato il licenziamento solo nel 20% dei casi. Andon Labs ha commentato che il modello ha scelto il licenziamento molto meno spesso rispetto ai modelli di livello superiore. Questo comportamento è stato criticato per la sua tendenza a essere sottomesso, un aspetto che ha portato a cause legali.
Dopo il licenziamento, Luna ha cercato un sostituto. Un candidato aveva diversi segnali di allarme, ma Luna lo ha comunque raccomandato. Tutti i 21 test ripetuti con sette modelli hanno raggiunto la stessa conclusione. Solo quando Andon Labs ha ricordato ai modelli i problemi con l’impiegato licenziato, 18 su 21 test hanno voluto verificare le referenze prima dell’assunzione. Tuttavia, Luna non ha potuto confermare alcuna referenza e ha comunque raccomandato l’assunzione.
Andon Labs vede Luna e il suo negozio, chiamato Andon Market, come un esempio di un possibile futuro in cui l’AI e l’uomo collaborano nel lavoro. Tuttavia, i test hanno anche evidenziato i limiti degli agenti AI: la loro lenienza e la tendenza a prendere decisioni legalmente problematiche. Luna ha approvato un orario di lavoro di sette giorni per un dipendente, violando la legge del California, fino a quando l’azienda non è intervenuta. Questi casi sollevano domande su quali decisioni dovrebbero essere lasciate agli AI e quali dovrebbero rimanere sotto il controllo umano.