Alla Camera dei Deputati la presentazione della ricerca “Autonomia Delegata”: 9 nuovi rischi cyber AI-native e una finestra di 18 mesi per l’Europa per non perdere terreno.
Si è tenuta ieri, alla Sala Stampa della Camera dei Deputati, su iniziativa dell’On. Fabio Porta, la conferenza “Dall’AI come strumento all’infrastruttura di fiducia”.
“Competitività, controllo e sicurezza nell’era degli agenti intelligenti”, occasione in cui Zenita Group ha presentato la ricerca “Autonomia Delegata”, firmata da Pierguido Iezzi, a capo della divisione cyber del gruppo.
Il Mercato dell’AI tra Stack Verticali e Infrastrutture di Fiducia
Il report, frutto dell’analisi di 1.080 posizioni aperte nei principali laboratori AI integrata con dati su M&A, cicli di rilascio dei modelli e investimenti infrastrutturali, descrive un mercato che si allontana dalla logica di pochi grandi player per diventare un ecosistema multipolare, con 8-10 poli di frontiera e rilasci dei modelli ormai a cadenza di 6-8 settimane.
Dai dati occupazionali emerge una divergenza tra due traiettorie strategiche: circa 670 posizioni aperte in laboratori orientati a stack verticali integrati, contro 410 in laboratori focalizzati su governance e infrastrutture di fiducia per mercati regolamentati.
“Stiamo entrando nella prima generazione di sistemi digitali in cui l’organizzazione rischia di non sapere più, momento per momento, cosa stia facendo il proprio stack tecnologico”, ha spiegato Iezzi durante la conferenza.
“Il sostrato dell’esecuzione diventa statistico, adattivo e delegato ad agenti che operano per conto dell’organizzazione”.
Il punto centrale della ricerca, ha proseguito Iezzi, è il passaggio della cybersecurity da un modello deterministico, costruito per decenni su eventi osservabili come accessi anomali o indicatori di compromissione, a un modello probabilistico, dove il rischio si manifesta come deviazione progressiva nel comportamento di un agente piuttosto che come allarme tecnico immediato.
Ad approfondire l’impianto della ricerca è intervenuta anche Martina Fonzo, Product Manager di Zenita Group, che ha inquadrato il lavoro a partire da una domanda di fondo: cosa accade quando l’AI smette di essere uno strumento di supporto e inizia a svolgere attività operative per conto di un’organizzazione.
“Non stiamo più parlando soltanto di software che produce una risposta, ma di sistemi che iniziano a partecipare all’esecuzione dei processi aziendali”, ha detto Fonzo.
“Questo sposta l’attenzione da una domanda tecnologica – quanto è potente un modello – a una domanda organizzativa: chi mantiene il controllo delle decisioni e delle azioni eseguite dal sistema”.
Chi Mantiene il Controllo? I 9 Rischi Cyber AI-Native
La ricerca individua 9 nuovi rischi cyber AI-native, legati a comportamento del modello, catena delle dipendenze e identità/attribuzione.
Secondo Fonzo, “sei dei nove rischi individuati non trovano oggi una copertura diretta nei controlli di sicurezza tradizionali, non perché inefficaci, ma perché progettati per eventi tecnici ben definiti, mentre i sistemi autonomi introducono comportamenti adattivi e difficili da ricondurre a una singola causa”.
Tra i contenuti presentati, anche il concetto di AI poverty – il rischio che aziende e sistemi-paese restino indietro per incapacità di adottare stack AI-native in modo sicuro e competitivo – e tre archetipi organizzativi emergenti: Supervisor-of-Agents Enterprise, Constitutionally-Bounded Enterprise e Dual-Stack Enterprise.
Per l’Europa, ha avvertito Iezzi in chiusura, il rischio non è solo subire attacchi basati sull’AI, ma perdere autonomia tecnologica e competitiva: la finestra di reazione indicata dal report è di circa 18 mesi.
“La domanda vera è quale infrastruttura di fiducia vogliamo costruire attorno all’AI – ha concluso –. Perché quando deleghiamo autonomia a un sistema, deleghiamo anche una parte della nostra capacità decisionale”.
