Scegli l'Assistente
Troppo potere decisionale all’AI: i rischi nascosti e la mancanza di controllo nelle aziende
Una ricerca di Illumio evidenzia questo squilibrio: molte imprese affidano alla tecnologia l’accesso a dati e infrastrutture sensibili, ma non dispongono di strumenti sufficienti per verificare ogni operazione o limitarne l’operato.
Lo studio, intitolato “Licensed to Act: How AI Autonomy Is Outrunning the Limits Placed on It”, si basa su un’indagine condotta da Sapio Research su 1.100 responsabili IT e della sicurezza in dieci mercati distinti.
Secondo i risultati, il 70% delle organizzazioni ha già trasferito all’AI la responsabilità di decisioni e azioni che, appena dodici mesi prima, sarebbero state affidate a un dipendente o avrebbero comunque richiesto un’approvazione umana.
Soltanto il 49% delle aziende dichiara però di poter vedere e verificare tutte le azioni eseguite dai propri agenti AI.
Si crea così una distanza tra i poteri concessi ai sistemi automatizzati e la possibilità di ricostruire ciò che fanno.
Troppo potere decisionale all’AI: il rischio è enorme
La questione non è soltanto teorica: negli ultimi dodici mesi, il 76% delle organizzazioni intervistate ha registrato almeno un problema di sicurezza o un segnale d’allarme in qualche modo connesso all’operato dell’AI.
Nel 35% dei casi, i responsabili hanno rilevato raccomandazioni che, se seguite, avrebbero potuto generare un rischio.
Il 26% ha riscontrato agenti o strumenti AI capaci di collegarsi, in totale autonomia, ad altri sistemi senza la necessaria autorizzazione.
In un ulteriore 24% dei casi, la tecnologia ha tentato di raggiungere dati che non avrebbe dovuto consultare. Questi episodi sono delicati, benché non collegati per forza a tentativi di intrusioni esterne.
Spesso utilizzano credenziali e connessioni legittime, già disponibili nell’ambiente aziendale.
Possono quindi raggiungere risorse importanti senza dover prima superare le difese perimetrali, mentre un comportamento imprevisto rischia di propagarsi tra applicazioni e infrastrutture collegate.
Non solo: la propensione ad accettare questo livello di autonomia sembra aumentare. Il 56% delle organizzazioni afferma di essere disposto ad assumersi più rischi informatici rispetto a un anno fa.
Tra queste, il 47% consente agli agenti AI di compiere operazioni negli ambienti di produzione, ossia nei sistemi utilizzati per erogare servizi e gestire attività reali.
AI, cybersecurity e agenti shadow AI
La ricerca ha rivelato come il 67% delle aziende impiega strumenti AI nella cybersecurity.
Eppure, il 32% permette al software di svolgere indagini di sicurezza senza supervisione umana, mentre il 29% gli consente di distribuire modifiche al codice in modo completamente autonomo.
Il 26% dichiara infine di affidargli la concessione o la revoca dei permessi di accesso.
Il quadro trova riscontro in altre analisi recenti.
Ad aprile 2026, la Cloud Security Alliance, in uno studio commissionato da Zenity, ha rilevato che il 53% delle organizzazioni aveva riscontrato agenti AI capaci di superare i permessi previsti e il 47% aveva segnalato un incidente di sicurezza legato a un agente nell’anno precedente.
A settembre 2026, Gartner ha richiamato l’attenzione sugli agenti shadow AI, creati o utilizzati dai dipendenti al di fuori dei processi formali di controllo e quindi difficili da individuare e governare.
Come proteggere l’azienda: la strategia del contenimento
Per Raghu Nandakumara, vicepresidente dell’Industry Strategy di Illumio, il rischio principale potrebbe non essere un sistema che infrange deliberatamente le proprie regole, ma uno a cui non sono mai stati imposti limiti efficaci.
Gli agenti AI, osserva, perseguono con insistenza gli obiettivi assegnati: cercare di prevedere ogni loro possibile mossa non è una strategia affidabile.
Le imprese dovrebbero invece definire quali dati e sistemi ciascun agente può raggiungere e quali operazioni è autorizzato a eseguire, facendo rispettare queste restrizioni nelle applicazioni e nell’infrastruttura sottostante.
Il contenimento delle attività inattese deve quindi partire dai permessi e dai confini operativi, prima che un’automazione mal governata provochi danni concreti e potenzialmente devastanti.
