L’intelligenza artificiale nella guerra: il controllo umano resta essenziale?

Il Parlamento europeo ha lanciato un allarme sulle implicazioni dell’intelligenza artificiale (IA) nel contesto militare, mettendo in evidenza i rischi legati alla velocità delle decisioni, all’opacità degli algoritmi e alla fiducia eccessiva nelle macchine. Il 6 ottobre 2026, un rapporto commissionato al Parlamento ha sottolineato come l’IA, pur offrendo vantaggi operativi, possa indebolire la tutela della vita, della dignità e dei diritti umani. Dall’analisi delle immagini raccolte dai droni alla sorveglianza, dall’intelligence all’individuazione di possibili obiettivi, l’IA è ormai entrata in maniera capillare nelle attività militari, ma la sua presenza solleva interrogativi cruciali.

Il controllo umano e la responsabilità

La questione non riguarda soltanto le capacità della tecnologia, ma la qualità del controllo umano su decisioni potenzialmente irreversibili. Il rapporto, elaborato da Netta Goussac, ricercatrice per la sottocommissione per i Diritti umani, ha sottolineato che la presenza formale di un essere umano non garantisce un controllo effettivamente umano. Un operatore può trovarsi a validare un’indicazione prodotta da un sistema complesso senza disporre delle informazioni o dell’autorità necessarie per verificarla, rischiando di trasformare l’intervento umano in una ratifica automatica priva di una reale valutazione.

Non basta premere un pulsante: il giudizio umano richiede conoscenza, tempo, libertà di valutazione e, soprattutto, la reale possibilità di dire “no”.

Per garantire un controllo significativo, il rapporto esorta a mettere in atto comportamenti basati su prevedibilità, affidabilità e tracciabilità, in modo da sapere chi ha deciso, sulla base di quali informazioni e con quali conseguenze. La velocità, pur promessa dall’IA, rischia di entrare in conflitto con il dovere di valutare con prudenza la necessità e la proporzionalità di un’azione, la distinzione tra obiettivi militari e civili, e tutte le conseguenze prevedibili per le persone.

Rischi di delega e disumanizzazione

Lo studio mette in guardia dalla tendenza degli esseri umani ad affidarsi eccessivamente alle indicazioni della macchina, soprattutto in condizioni di stress, pressione temporale e apparente affidabilità del sistema, un fenomeno noto come “automation bias”. Nell’analisi di Goussac, un algoritmo che assegna una probabilità, costruisce una graduatoria o segnala una persona come possibile minaccia può trasmettere un’impressione di oggettività che non corrisponde necessariamente alla complessità della realtà.

La delega a un processo algoritmico decisioni che incidono sulla vita e sull’integrità delle persone rischia di ridurre le singole individualità a dati, immagini, comportamenti osservati o punteggi di rischio.

Questo rischio si estende anche a contesti non bellici, come il controllo delle frontiere o la gestione delle migrazioni, dove l’uso di modelli predittivi o sistemi di profilazione può rendere complicato accertare se i diritti siano effettivamente rispettati. Inoltre, il tema della responsabilità è complesso: quando un danno deriva da un sistema basato sull’IA, la catena coinvolge programmatori, fornitori di dati, imprese tecnologiche, produttori, responsabili degli acquisti, comandanti e operatori. All’orizzonte, almeno due rischi: che nessuno risponda davvero, oppure che la responsabilità venga scaricata sull’ultimo anello, cioè sull’operatore umano, anche quando non ha avuto un effettivo controllo sul risultato. Una sfida per l’Europa. Lo studio propone che il Parlamento europeo aggiorni la propria posizione sull’IA, con un passaggio particolarmente significativo che riguarda il regolamento sull’intelligenza artificiale noto come AI Act.