L’AI Act europeo è costruito principalmente su un paradigma di classificazione del rischio: sistemi vietati, ad alto rischio, obblighi di trasparenza, modelli general purpose, responsabilità di provider e deployer.
È un impianto giuridicamente sofisticato, ma deve confrontarsi con un oggetto tecnologico che evolve con una velocità enormemente superiore a quella legislativa.
L’agentic AI cambia ulteriormente il problema. Un modello tradizionale riceve un input e produce un output.
Dall’output risk all’action risk: il cambio di paradigma
Un agente riceve invece un obiettivo e può pianificare operazioni, scrivere ed eseguire codice, utilizzare strumenti, interrogare servizi, accedere a risorse esterne, modificare la strategia e interagire con altri agenti.
Il passaggio tecnico fondamentale è dall’output risk all’action risk: non dobbiamo più controllare soltanto ciò che un modello dice, ma ciò che un sistema può autonomamente fare. Qui la regolamentazione incontra un limite strutturale.
Un agente può utilizzare un modello sviluppato negli USA, essere modificato attraverso pesi open source, funzionare su infrastrutture collocate in Asia, accedere a server europei e comunicare attraverso servizi distribuiti globalmente.
La giurisdizione territoriale continua a funzionare sulle imprese. Molto meno sul software distribuito.
Il fattore tempo e i limiti della conformità
Ancora più importante è la differenza temporale. La norma opera attraverso iter legislativi, regolamenti, standard, autorità di vigilanza e procedimenti sanzionatori.
Un sistema autonomo opera in millisecondi e può generare migliaia di azioni prima che un essere umano riesca semplicemente a comprenderne la sequenza. Per questo compliance e sicurezza non sono sinonimi.
Come garantire la sicurezza dell’IA agentica
La sicurezza dell’IA agentica richiede sandbox hardware e software, segregazione delle reti, principio del minimo privilegio, controllo delle credenziali, limitazioni dell’accesso a Internet, behavioral monitoring, logging continuo, anomaly detection, human-in-the-loop e sistemi automatici di arresto.
L’Europa può e deve regolamentare aziende e utilizzi dell’IA.
Ma pensare di controllare questa trasformazione prevalentemente attraverso la produzione normativa rischia di essere un errore strategico.
Serve possedere capacità tecnologica, infrastrutture, modelli, competenze e sistemi di sicurezza capaci di verificarne realmente il comportamento.
Altrimenti Bruxelles rischia di fare una cosa paradossale: legiferare con grande precisione un mondo tecnologico che, nel frattempo, non esiste già più.
