L’impatto più rilevante dell’intelligenza artificiale sulla cybersecurity non riguarda tanto la capacità degli attaccanti di organizzare campagne phishing più convincenti o automatizzare la creazione di codice malevolo.
Il punto centrale è un altro: l’AI sta trasformando la velocità, la scala e le dinamiche decisionali di chi gestisce gli attacchi informatici. Questo è quanto sostenuto da Guy Segal, capo esecutivo Serves As Chief Executive Officer presso Sygnia.
L’esperto sostiene come, tra l’altro, molte organizzazioni non hanno ancora affrontato del tutto questa criticità.
La maggior parte dei modelli di governance di risposta agli incidenti è stata progettata per contrastare attacchi che si muovono a “ritmo umano”.
Per anni, i team di sicurezza hanno seguito una sequenza consolidata: rilevare l’attività sospetta, indagare, validare la minaccia, presentare la criticità al management, decidere sul contenimento, comunicare l’esito agli stakeholder.
Questo approccio conserva ancora valore, ma presuppone che i difensori abbiano tempo sufficiente per costruire certezze prima di agire concretamente. Gli attacchi potenziati dall’AI mettono in discussione proprio questa premessa.
Con l’AI, gli attacchi informatici si muovono con molta più velocità rispetto al passato
Gli avversari possono oggi sfruttare queste nuove tecnologie per accelerare la ricognizione, generare ingegneria sociale altamente personalizzata, modificare malware, testare payload, sintetizzare dati rubati, individuare vulnerabilità e adattare le tattiche con un’inedita rapidità.
In alcuni casi, i difensori non hanno più il lusso di attendere piena chiarezza prima di avviare le adeguate contromosse.
Gran parte del dibattito sull’IA nella cybersecurity si concentra sugli strumenti: come i difensori possono usarla per individuare le minacce più rapidamente, come gli attaccanti la sfruttano per automatizzare le campagne, come le aziende possono proteggere i propri sistemi AI.
Sono interrogativi importanti, ma non colgono la sfida nella sua interezza. Il nodo più profondo riguarda i tempi di risposta.
Con l’AI, gli Attacchi Informatici Viaggiano a una Velocità Inedita
Oggi, gli attaccanti agiscono molto più velocemente, l’ingegneria sociale diventa più credibile, il malware viene adattato in tempi ridotti, le campagne di phishing vengono calibrate su singoli dipendenti, dirigenti e processi aziendali.
In questo contesto, la domanda cruciale diventa: l’organizzazione riesce a prendere la decisione giusta abbastanza in fretta? Una domanda a cui il security operations center da solo non può rispondere.
Per essere davvero efficaci, serve un allineamento tra CISO, vertici aziendali, ufficio legale, comunicazione e risk management.
La recente ricerca intitolata Sygnia CISO Survey 2026 sullo stato di preparazione alla incident response ha rilevato che il 90% degli intervistati avrebbe difficoltà a coordinare gli stakeholder durante un incidente importante, mentre il 75% segnala che l’incertezza sul coinvolgimento di un legale e comunicazione rallenta il processo decisionale.
Le organizzazioni dovrebbero rimettere in discussione diverse convinzioni consolidate che hanno finora orientato i loro programmi di sicurezza.
Questi cambiamenti non rendono obsoleti i controlli esistenti, ma evidenziano dove playbook, procedure e modelli di reportistica classici potrebbero risultare più un intralcio all’azione rispetto a un reale vantaggio strategico.
AI e ingegneria sociale: il pericolo cresce
L’AI ha reso l’ingegneria sociale più scalabile e più credibile rispetto al recente passato.
Gli attaccanti non devono più affidarsi a email generiche o tentativi di impersonificazione approssimativi: possono attingere a dati violati, post sui social media, siti aziendali, interviste ai dirigenti, annunci di lavoro per creare schemi verosimili.
Un dipendente dell’ufficio finanziario può ricevere una richiesta di pagamento che sembra rispecchiare perfettamente lo stile di scrittura del direttore finanziario.
Un analista dell’help desk può ricevere un messaggio convincente da chi si finge un dirigente senior. Una sede regionale può essere colpita nella lingua locale, con riferimenti a fornitori reali, priorità di business o eventi di attualità.
Questa evoluzione è un vero e proprio terremoto per la sicurezza aziendale.
Oggi, infatti, è essenziale avere un’attenzione maniacale per individuare tono, stile e contesto di una mail (ma anche di una videochiamata) per comprendere realmente la natura malevola della stessa.
E non si tratta di uno scenario futuro. Il recente report KnowBe4 Phishing Threat Trends Report 2025 ha rilevato che l’82,6% delle email di phishing analizzate tra il 15 settembre 2024 e il 14 febbraio 2025 mostrava tracce di utilizzo dell’AI.
La lezione operativa resta chiara: la difesa contro l’ingegneria sociale oggi deve andare oltre formazione e sensibilizzazione.
I responsabili della sicurezza dovrebbero normalizzare procedure di verifica per le azioni sensibili, tra cui approvazioni di pagamento, modifiche ai conti bancari dei fornitori, reset delle credenziali e simili.
La verifica non va vista come segno di sfiducia, ma come una procedura di controllo standard in un contesto in cui i segnali identitari sono sempre più facili da falsificare.
I dirigenti nel mirino dei cybercriminali
Se i dirigenti sono sempre stati bersagli privilegiati dai cybercriminali, oggi diventano anche potenziali strumenti d’attacco.
Voce sintetica, video deepfake e testi generati con l’AI rendono più semplice impersonare in modo convincente un dirigente, riproducendo tono e contesto aziendale, oltre a spingere sull’urgenza, per sollecitare i dipendenti ad aggirare i controlli abituali.
Questo crea una nuova sfida: proteggere l’identità dei dirigenti non significa più soltanto mettere in sicurezza i loro account, ma impedire che immagine, modalità di comunicazione e autorità vengano sfruttate in modo improprio.
Per ottenere questo risultato, è necessario abbinare controlli tecnici e disciplina organizzativa. I requisiti di verifica devono essere chiari, con conferme.
Servono controlli tecnici e disciplina organizzativa insieme: requisiti chiari di verifica per le richieste urgenti provenienti dai vertici, con conferme out-of-band dunque esterne agli abituali canali di comunicazione.
Le figure più esposte a ricevere richieste da parte dei dirigenti (assistenti esecutivi, team finanziari, help desk IT, ufficio legale) devono essere formate a riconoscere e gestire i tentativi di impersonificazione.
I piani di incident response dovrebbero includere scenari con comunicazioni deepfake attribuite a dirigenti, per reagire rapidamente quando l’incidente si verifica davvero.
Altro punto importante è che, le procedure di verifica, devono essere obbligatorie per tutti, CEO e vertici aziendali inclusi.
L’adozione dell’AI amplia la superficie d’attacco
Mentre l’attenzione si concentra sull’uso dell’AI da parte dei cybercriminali, le organizzazioni devono, a loro volta, valutare come stanno impiegando questa tecnologia.
Oggi, l’AI viene integrata in suite di produttività, strumenti di customer service, flussi di sviluppo software, piattaforme di sicurezza e applicazioni SaaS di terze parti.
Questi sistemi possono accedere a dati sensibili, interagire con gli utenti e persino influenzare decisioni operative.
Da qui nascono nuove domande: a quali dati aziendali possono accedere i dirigenti e gli impiegati a tali strumenti? Prompt e output vengono registrati e monitorati?
Chi approva nuovi strumenti e integrazioni AI assumendosi la conseguente responsabilità? Come vengono valutati i fornitori terzi di AI? I dipendenti usano strumenti AI non autorizzati?
Molti programmi di vendor risk management non sono stati progettati per valutare problematiche relative a questa tecnologia, come prompt injection, comportamenti anomali dei modelli e fughe di dati.
Di conseguenza, le organizzazioni potrebbero esporsi a rischi legati all’AI senza neanche comprenderne appieno l’origine.
La governance dell’AI dovrebbe quindi integrarsi con quella cybersecurity e non viaggiare su un “binario separato”.
Verso un Rilevamento Comportamentale
Gli indicatori di compromissione noti restano utili, ma sono sempre meno sufficienti contro minacce con così alte capacità adattive.
L’AI permette agli attaccanti di variare linguaggio, infrastrutture, payload, tempistiche e obiettivi, rendendo più difficile per i difensori affidarsi solo a indicatori statici o pattern già osservati in precedenza.
Le strategie di rilevamento devono diventare più comportamentali.
Invece di chiedersi se c’è uno storico di riferimento per un indicatore che non sembra naturale, se un pattern di accesso ai dati è insolito, se un’attività SaaS è coerente con il contesto di business, se un pattern di comunicazione è tipico, se un’escalation di privilegi è allineata alle operazioni aziendali standard.
Questo richiede una telemetria più solida su identità, endpoint, posta elettronica, strumenti collaborativi, piattaforme SaaS e attività di rete, oltre a una correlazione più rapida tra questi ambienti.
L’obiettivo non è sostituire gli analisti con l’AI, ma aiutarli a individuare prima i comportamenti anomali e a prendere decisioni migliori più velocemente.
L’importanza delle esercitazioni per affrontare scenari incerti
Molti piani di incident response presuppongono una sequenza di eventi abbastanza lineare, ma gli attacchi potenziati dall’AI possono non seguire questo schema.
I team di sicurezza potrebbero trovarsi sotto attacco attivo senza conoscere l’identità dell’attaccante, con comunicazioni esecutive falsificate, dovendo decidere se contenere i sistemi prima che l’indagine sia completa o meno.
Non è solo un problema tecnico, ma un problema decisionale.
Per questo le esercitazioni apposite dovrebbero essere progettate per testare la risposta dell’organizzazione sotto tempistiche compresse e con informazioni incomplete.
Scenari efficaci dovrebbero includere phishing generato dall’AI rivolto a dirigenti e team finanziari, impersonificazioni tramite voce sintetica o deepfake, compromissioni di piattaforme SaaS, abuso di credenziali ed esposizione di dati attraverso strumenti AI.
Anche la comunicazione di crisi va testata, in particolare negli scenari in cui l’autenticità delle comunicazioni esecutive è incerta.
Le esercitazioni più utili non si limitano a valutare se il team di sicurezza sa individuare un incidente, ma verificano se l’intera organizzazione riesce a prendere decisioni efficaci quando le prove sono incomplete e la tempistica è ristretta.
Board: serve percezione realistica del rischio, non tecnicismi
I board e i dirigenti non devono conoscere ogni dettaglio tecnico su machine learning, large language model o tecnicismi simili. Devono però capire come l’AI cambia il rischio nel contesto cyber.
Come minimo, la leadership deve sapere che l’AI può aumentare scala e credibilità dell’ingegneria sociale, ridurre il tempo disponibile per indagine e contenimento, minare le assunzioni tradizionali sulla verifica dell’identità, aumentare l’importanza del rilevamento comportamentale e decisioni più rapide.
Di fatto, è utile comprendere come nell’era dell’AI le decisioni non saranno puramente tecniche.
L’interruzione del business, esposizione legale, la comunicazione ai clienti e la gestione dei fornitori richiedono azioni strategiche più fluide possibili.
Se le strutture di governance non vengono aggiornate, le delibere di alto livello sul rischio cyber potrebbero divergere dalla realtà operativa, con conseguenze potenzialmente disastrose.
Le aziende sono pronte per l’AI?
Per Segal, oggi è essenziale che le organizzazioni si impegnino ad avviare da una valutazione pratica della propria maturità sull’AI, esaminando sia le opportunità che i rischi introdotti in tutta l’azienda.
Questa revisione dovrebbe analizzare come viene usata oggi questa tecnologia, individuare strumenti approvati e non approvati, verificare se informazioni sensibili potrebbero essere esposte tramite system AI, valutare l’efficacia dei controlli di identità e accesso per i flussi di lavoro e la capacità di conservare log di prompt, output e altre attività a fini investigativi e di sicurezza.
Oltre all’uso interno, vanno valutati i rischi legati a piattaforme AI di terze parti e fornitori SaaS che hanno accesso a questa tecnologia, mentre esercitazioni a tavolino regolari dovrebbero testare la preparazione a scenari di attacco AI-driven.
L’obiettivo non è creare un programma di sicurezza separato e scollegato dalla strategia complessiva di cybersecurity, ma far evolvere governance, rilevamento e risposta esistenti perché restino efficaci contro minacce potenziate dall’IA e ambienti sempre più complessi.
