La visibilità diventa essenziale per la sicurezza degli ecosistemi AI aziendali

La crescita rapida dell’adozione dell’AI all’interno delle aziende ha superato il livello di governance, creando un problema di sicurezza fondamentale. La mancanza di visibilità rende difficile il monitoraggio del movimento dei dati, l’applicazione delle politiche e la comprensione degli strumenti o degli agenti che operano all’interno dell’azienda. Questo gap strutturale, non culturale, ha reso necessario un approccio diverso per garantire la sicurezza degli ecosistemi AI. La visibilità è diventata il prerequisito per tutti gli altri controlli di sicurezza.

Le sfide della gestione dell’AI

Le tradizionali strumenti di monitoraggio non riescono a seguire efficacemente l’attività dell’AI, creando rischi significativi. La mancanza di visibilità impedisce alle aziende di comprendere dove i dati sensibili vanno e come vengono utilizzati. Secondo l’indice di preparazione alla cybersecurity 2025 di Cisco, il 60% delle aziende non sa quali richieste specifiche fanno i dipendenti ai tool di AI generativa. Questo fenomeno, noto come “shadow AI”, si verifica quando i dipendenti utilizzano strumenti AI senza approvazione formale, creando un rischio operativo reale.

La mancanza di visibilità rende difficile il controllo su dove e come i dati vengono utilizzati. Gli strumenti di rilevamento standard non riescono a individuare l’uso dell’AI, a differenza delle sottoscrizioni di software non autorizzate. Questo crea una lacuna nella capacità di monitoraggio, specialmente quando i dipendenti utilizzano strumenti AI per compiti routine, come incollare un documento in un chatbot. Questo comportamento, pur non intenzionale, riduce la visibilità e quindi la capacità di protezione.

Le differenze tra shadow AI e shadow IT

La shadow AI differisce dal tradizionale shadow IT, poiché le sottoscrizioni di software non autorizzate rimangono visibili agli strumenti di rilevamento standard, mentre l’uso dell’AI spesso non lo è. Questo crea una lacuna nella capacità di monitoraggio, specialmente quando i dipendenti utilizzano strumenti AI per compiti routine, come incollare un documento in un chatbot. Questo comportamento, pur non intenzionale, riduce la visibilità e quindi la capacità di protezione. Le funzionalità AI aggiunte a strumenti già approvati non sono state oggetto di una revisione di sicurezza iniziale. Questo crea rischi particolari, poiché le attività di AI sembrano normali dal punto di vista del monitoraggio, rendendole difficili da rilevare. Gli agenti autonomi, in particolare, operano in modo rapido e possono propagare problemi prima che un processo umano possa intervenire.

Per rispondere a questa sfida, le aziende devono adottare strategie specifiche per chiudere il gap di visibilità. L’implementazione di strumenti di rilevamento continuo e di rilevamento delle minacce avanzate è fondamentale. Questi strumenti permettono alle squadre di sicurezza di mantenere una visione aggiornata dell’ambiente, evitando di dover ricostruire situazioni dopo un incidente. La tecnologia multi-layered AI, come quella utilizzata da Darktrace, offre un approccio innovativo, in grado di adattarsi al comportamento normale e rilevare anomalie in tempo reale. Un altro aspetto chiave è l’implementazione di controlli basati sul principio del “zero trust”, in cui ogni agente riceve solo l’accesso minimo necessario per il suo compito. Questo riduce i rischi di compromissione o malfunzionamento, specialmente in ambienti dove l’AI opera a velocità superiore a quella umana. La visibilità, quindi, non è solo un prerequisito, ma un elemento centrale per la gestione sicura dell’AI all’interno delle aziende.