Il paradosso dell’intelligenza artificiale: l’ascoltiamo, ma non ci fidiamo

Il paradosso dell’intelligenza artificiale si manifesta quando l’uomo ascolta l’algoritmo, ma non riesce a fidarsi del suo consiglio. Un’indagine condotta da ricercatori delle Università di Milano-Bicocca e Pavia ha evidenziato come il nostro cervello, nonostante l’accesso crescente a strumenti di intelligenza artificiale, non sappia integrare al meglio i suggerimenti ricevuti. L’obiettivo dello studio era capire dove si inceppa il meccanismo di collaborazione tra umano e macchina, e i risultati mostrano un divario tra potenziale e realtà.

Due ostacoli principali: l’ego e la miopia verso l’IA

Lo studio ha individuato due fattori che ostacolano l’integrazione efficace dei dati forniti dall’IA. Il primo è il biase egocentrico, un’istintiva tendenza a dare maggiore peso alle proprie intuizioni rispetto a quelle di un algoritmo, anche quando quest’ultimo è più preciso. Il secondo problema è il deficit globale-locale, ovvero la difficoltà a tradurre una conoscenza generale (ad esempio, la competenza dell’IA in un determinato ambito) in una scelta concreta nel momento della decisione.

Il “triplo fardello” di chi ha meno competenze

La ricerca ha anche svelato una dinamica interessante: chi ha meno abilità nel compito iniziale fatica di più a sfruttare l’aiuto dell’IA. Queste persone mostrano una bassa sensibilità metacognitiva, ovvero non riescono a valutare con precisione la correttezza delle loro risposte. Si crea così un triplo fardello: l’utente è meno preciso, non si accorge dei propri errori e non riesce a calibrare correttamente il peso da dare al consiglio dell’algoritmo. Al contrario, chi è già competente è in grado di capire quando è il momento di delegare il timone all’IA, migliorando le proprie performance.

Per misurare quanto i partecipanti fossero “bravi” ad ascoltare, i ricercatori hanno utilizzato un modello bayesiano, un sistema matematico in grado di calcolare la decisione ottimale unendo il parere umano e quello dell’algoritmo. I risultati hanno rivelato un divario significativo: sebbene l’aiuto dell’IA abbia migliorato le prestazioni del 9%, siamo rimasti molto lontani dal traguardo che avremmo potuto raggiungere se avessimo integrato i dati in modo ottimale. Questi dati hanno riflessi pesanti in settori come la diagnostica medica assistita dall’IA. Non basta avere un algoritmo più preciso del mondo se chi lo utilizza non sa come “pesare” quel consiglio. Joshua Zonca, uno degli autori dello studio, ha chiarito: “L’integrazione del consiglio rimane significativamente subottimale, portando a una perdita sostanziale di accuratezza potenziale”.

• 89 partecipanti hanno svolto un compito di precisione visiva con suggerimenti da agenti artificiali
• Il modello bayesiano ha valutato l’integrazione ottimale tra umano e algoritmo
• Il divario tra potenziale e realtà rimane evidente

La ricerca sottolinea l’importanza di formare l’uomo per collaborare con l’IA, non solo per migliorare l’efficienza, ma anche per ridurre il rischio di errori derivanti da una scarsa fiducia o da una scarsa capacità di valutare i dati ricevuti. L’obiettivo non è solo di rendere l’IA più precisa, ma di aiutare l’uomo a sfruttare al meglio il potenziale di un’intelligenza artificiale che, pur se non fidata, è in grado di offrire suggerimenti utili.