Font che inganna l’IA mostrando lettere diverse agli occhi umani

Un nuovo font denominato Decoy Font dimostra come sia possibile ingannare l’intelligenza artificiale sfruttando le proprietà ottiche della percezione visiva. Il carattere tipografico gratuito mostra una lettera agli occhi umani mentre comunica un messaggio completamente diverso ai sistemi di riconoscimento ottico dei caratteri e ai principali modelli di intelligenza artificiale come ChatGPT e Gemini. Una tecnica affascinante e inquietante al contempo, che rivela vulnerabilità finora poco considerate nei sistemi automatici di lettura.

Come funziona l’inganno ottico del Decoy Font

Decoy Font sfrutta le frequenze spaziali per creare un’illusione ottica sui sistemi automatici. Quando una persona legge il testo con questo font, percepisce determinati caratteri alfabetici, ma gli algoritmi di visione artificiale e i sistemi di riconoscimento ottico ricevono input visivi completamente differenti. La stessa forma tipografica, quindi, comunica due messaggi distinti a seconda che a leggerla sia un cervello umano o un modello di intelligenza artificiale.

Il meccanismo sotteso a questa tecnologia si basa sulla capacità del cervello umano di interpretare forme imperfette e di completare automaticamente le informazioni mancanti. I sistemi di visione artificiale, invece, analizzano i pixel e i pattern di una forma molto più letteralmente, focalizzandosi su frequenze spaziali diverse da quelle su cui l’occhio umano naturalmente si concentra. Modificando opportunamente il disegno dei caratteri, i creatori del Decoy Font hanno trovato il modo di sfruttare questa discrepanza.

Implicazioni sulla sicurezza dei sistemi di intelligenza artificiale

La scoperta di Decoy Font solleva questioni rilevanti sulla robustezza dei sistemi di intelligenza artificiale e delle loro applicazioni pratiche. Un font capace di ingannare ChatGPT e Gemini rappresenta una vulnerabilità concreta nei sistemi di elaborazione visiva. Se è possibile far leggere due messaggi diversi allo stesso input visivo, le implicazioni per la sicurezza sono notevoli: dal contrabbando di informazioni nascoste in documenti alla possibilità di manipolare i risultati forniti da modelli di intelligenza artificiale.

Secondo quanto riferisce Punto Informatico, questo esperimento mette in luce come i sistemi di visione artificiale non siano altrettanto intuitivi e flessibili rispetto alla percezione umana. Anche i modelli di intelligenza artificiale più avanzati rimangono vulnerabili a tecniche di avvelenamento dei dati visivi, una categoria di attacchi ancora poco esplorata nel panorama della sicurezza informatica.

Le implicazioni vanno oltre il semplice aspetto tecnico. Se un font gratuito e apertamente disponibile riesce a ingannare i sistemi di riconoscimento, cosa potrebbe accadere con tecniche più sofisticate e specificamente progettate da chi possiede risorse maggiori? Le aziende sviluppatrici di intelligenza artificiale potrebbero dover rafforzare i loro algoritmi di visione artificiale per resistere a questo tipo di attacchi.

Come riporta anche Smartworld, Decoy Font rappresenta un primo tentativo serio di dimostrare questa vulnerabilità a livello pubblico. Il fatto che sia stato reso disponibile gratuitamente amplifica la consapevolezza del problema, ma solleva al contempo questioni etiche sulla diffusione di strumenti potenzialmente utilizzabili per ingannare sistemi di sicurezza che si basano sul riconoscimento ottico.

Il contesto più ampio della ricerca in AI

Questo esperimento si inserisce in un panorama più vasto di ricerca sulla robustezza e le vulnerabilità dell’intelligenza artificiale. Nel medesimo periodo, anche Adobe sta esplorando le applicazioni dell’intelligenza artificiale nel settore della fotografia, sviluppando sistemi capaci di valutare le qualità di una fotografia e fornire suggerimenti su come scattarla meglio. Un approccio diametralmente opposto: mentre Decoy Font mostra come ingannare l’IA, Adobe testa sistemi dove l’IA fornisce indicazioni costruttive agli utenti umani.

La coesistenza di questi sviluppi evidenzia la complessità della ricerca nel campo dell’intelligenza artificiale. Da un lato, i ricercatori lavorano per renderla più efficace e utile; dall’altro, emergono sempre più chiaramente le vulnerabilità e i punti deboli di questi sistemi. Decoy Font, pur essendo uno strumento relativamente semplice, dimostra che non è necessaria una tecnologia estremamente complessa per sfruttare le limitazioni dei modelli di intelligenza artificiale moderni.

Gli sviluppatori di sistemi di intelligenza artificiale dovranno prestare sempre maggiore attenzione a questi vettori di attacco. La comunità scientifica internazionale inizia a riconoscere l’importanza di testare i modelli non solo sulla loro capacità di riconoscere input legittimi, ma anche sulla loro resilienza di fronte a input appositamente modificati per confondere le loro decisioni. Decoy Font rappresenta un passo verso una maggiore consapevolezza di questi rischi.