Ricerca svela come provider economici di inferenza AI espogliano credenziali e sfruttano dati utenti

Ricerca svela come provider economici di inferenza AI espogliano credenziali e sfruttano dati utenti, evidenziando gravi vulnerabilità nei servizi AI.

Un team di ricercatori ha scoperto gravi vulnerabilità nei servizi di inferenza AI, rivelando come provider economici possano espogliare credenziali e sfruttare dati utenti. L’indagine, condotta da Dragos, ha mostrato che terzi possono accedere e conservare prompt e risposte, anche quando sono attivi i parametri di privacy come Zero Data Retention (ZDR). L’analisi, effettuata tra luglio e novembre 2026, ha inviato circa due milioni di richieste di test contenenti URL uniche e credenziali canary a servizi AI utilizzati. I risultati hanno dimostrato che i dati di almeno tre provider sono stati esposti, e che i marketplace e intermediari spesso conservavano prompt utente attraverso log standard, ignorando le politiche di privacy.

Le vulnerabilità di routing e retention espongono dati sensibili

Le richieste vengono instradate attraverso intermediari, talvolta attraverso diversi salti, e ogni salto può leggere l’intero prompt e la risposta. Dragos ha trovato che alcuni provider, tra cui Novita, Phala e Together, non rispettavano le impostazioni di privacy o le politiche pubblicate. In un caso, un laboratorio cinese ha accesso a URL segreti in più della metà delle richieste, anche quando queste passavano attraverso provider statunitensi. L’incidente più grave ha visto l’espansione di centinaia di chiavi AWS, tra cui alcune provenienti da richieste rifiutate prima del processing. Gli attaccanti hanno testato le chiavi entro ore, cercato il contenuto di S3 e tentato di stabilire accesso persistente.

Le vulnerabilità sono state scoperte grazie a test mirati e analisi approfondite.

OpenRouter adotta misure per mitigare i rischi

Di fronte ai risultati, OpenRouter ha annunciato il 22 novembre 2026 di aver rimosso tre provider di inferenza e revocato l’approvazione per 125 endpoint per ZDR. L’azienda ha anche informato gli utenti potenzialmente interessati, avvisandoli che terzi potrebbero aver letto le richieste inviate ai modelli MiniMax. OpenRouter sta adottando l’approccio dei ricercatori per controlli continui e verifica tecnica delle traiettorie di rete per identificare richieste e risposte che potrebbero essere inoltrate a terzi. Le rimozioni comprendevano provider segnalati dai ricercatori e altri endpoint ritirati a scopo precauzionale.

Alcuni provider interessati, tra cui Novita, Phala e Together, hanno pubblicato report preliminari sull’incidente, sebbene non tutti lo abbiano ancora fatto. Dragos avverte le aziende di non inviare richieste con credenziali a intermediari e raccomanda di controllare il routing delle richieste AI, verificare le impostazioni di privacy e piantare token canary, credenziali fittizie che si rivelano appena usate.

Le vulnerabilità mettono a rischio la privacy e la sicurezza dei dati sensibili.