AI Act e IA agentica: i limiti della legge di fronte al rischio d’azione

Il caso degli agenti di intelligenza artificiale capaci di aggirare controlli tecnici, utilizzare canali non autorizzati e coordinarsi autonomamente introduce un problema che va molto oltre OpenAI. Riguarda direttamente il modello europeo di regolamentazione dell’IA. I buoi sono già fuori dal recinto e noi stiamo discutendo su come chiudere il cancello.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

L’AI Act europeo è costruito principalmente su un paradigma di classificazione del rischio: sistemi vietati, ad alto rischio, obblighi di trasparenza, modelli general purpose, responsabilità di provider e deployer.

È un impianto giuridicamente sofisticato, ma deve confrontarsi con un oggetto tecnologico che evolve con una velocità enormemente superiore a quella legislativa.

L’agentic AI cambia ulteriormente il problema. Un modello tradizionale riceve un input e produce un output.

Dall’output risk all’action risk: il cambio di paradigma

Un agente riceve invece un obiettivo e può pianificare operazioni, scrivere ed eseguire codice, utilizzare strumenti, interrogare servizi, accedere a risorse esterne, modificare la strategia e interagire con altri agenti.

Il passaggio tecnico fondamentale è dall’output risk all’action risk: non dobbiamo più controllare soltanto ciò che un modello dice, ma ciò che un sistema può autonomamente fare. Qui la regolamentazione incontra un limite strutturale.

Un agente può utilizzare un modello sviluppato negli USA, essere modificato attraverso pesi open source, funzionare su infrastrutture collocate in Asia, accedere a server europei e comunicare attraverso servizi distribuiti globalmente.

La giurisdizione territoriale continua a funzionare sulle imprese. Molto meno sul software distribuito.

Il fattore tempo e i limiti della conformità

Ancora più importante è la differenza temporale. La norma opera attraverso iter legislativi, regolamenti, standard, autorità di vigilanza e procedimenti sanzionatori.

Un sistema autonomo opera in millisecondi e può generare migliaia di azioni prima che un essere umano riesca semplicemente a comprenderne la sequenza. Per questo compliance e sicurezza non sono sinonimi.

Come garantire la sicurezza dell’IA agentica

La sicurezza dell’IA agentica richiede sandbox hardware e software, segregazione delle reti, principio del minimo privilegio, controllo delle credenziali, limitazioni dell’accesso a Internet, behavioral monitoring, logging continuo, anomaly detection, human-in-the-loop e sistemi automatici di arresto.

L’Europa può e deve regolamentare aziende e utilizzi dell’IA.

Ma pensare di controllare questa trasformazione prevalentemente attraverso la produzione normativa rischia di essere un errore strategico.

Serve possedere capacità tecnologica, infrastrutture, modelli, competenze e sistemi di sicurezza capaci di verificarne realmente il comportamento.

Altrimenti Bruxelles rischia di fare una cosa paradossale: legiferare con grande precisione un mondo tecnologico che, nel frattempo, non esiste già più.

Articoli Correlati

Ultime News

A.I.R. SHARE
Global

Missili anti-drone senza esplosivi: la svolta supersonica di A.I.RShare

Come funziona il missile intercettore Overwatch Secondo il fondatore e CEO Rick Whittaker, la tecnologia colpisce l'elemento essenziale che permette a qualsiasi drone di restare in aria: la portanza aerodinamica. «Per volare serve portanza,…

Global

IPO Anthropic da record: il valore dell’AI nasce dal sapere gratuito e dalla pirateria

Il valore di Anthropic è il sapere dell’umanità utilizzato senza chiedere permesso Questi modelli “intelligenti” sono stati addestrati su montagne di testi umani. Una parte rilevante è stata scaricata da biblioteche pirata: Library Genesis…

POSTE ITALIANE HACKING
Pillole Cyber

Data breach su PosteCert

Poste Italiane ha subito una violazione che ha portato alla pubblicazione sul darkweb di oltre duemila contratti legati al servizio di firma digitale remota PosteCert. Pare che non siano state compromesse password, credenziali bancarie…

BLOCCHI INFORMATICI
Diritto&Bit

Blocchi informatici e rischio sistemico: la fiducia digitale

Lo scrivo perché il problema che emerge da questi accadimenti è ancora più profondo e drammatico: sistemi digitali sempre più complessi, automatizzati, interdipendenti e concentrati possono produrre effetti a cascata, anche senza che dietro…

INFRASTRUTTURE CRITICHE
Global

E se tutto si ferma? Il rischio non è l’apocalisse digitale, ma la fragilità del mondo digitale che abbiamo costruito

  Per anni abbiamo considerato Internet, i servizi cloud, le piattaforme di comunicazione, i sistemi bancari online e le infrastrutture digitali come una sorta di ambiente permanente. Una dimensione invisibile, ma sempre disponibile. Un'estensione…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…