Scegli l'Assistente
Un documento con una data e un sistema con una versione
La valutazione d’impatto, così come è stata praticata finora, è un documento con una data che:
- descrive un trattamento in un momento preciso;
- ne valuta i rischi e ne fissa le misure.
Per un sistema informatico tradizionale questa fotografia resta attendibile a lungo, perché il software esegue regole scritte da qualcuno e quelle regole non cambiano da sole.
Un modello di intelligenza artificiale, invece, non è un insieme di regole scritte ma un insieme di parametri appresi dai dati.
Non ha una data: ha una versione.
Quando il fornitore rilascia un aggiornamento, anche minimo, il comportamento del sistema può cambiare in modi che nessuno ha esplicitamente deciso.
Così la valutazione firmata il mese prima descrive, da quel momento, un sistema che non esiste più.
Che cos’è la deriva algoritmica
Il fenomeno ha un nome tecnico, model drift o deriva del modello, e due forme principali.
La prima è la deriva dei dati (data drift): il mondo cambia e i dati di ingresso non assomigliano più a quelli su cui il modello è stato addestrato.
Un sistema calibrato sui redditi del 2019 applicato alle domande del 2026 incontra situazioni, lavori e forme contrattuali che non ha mai visto e le interpreta con le categorie del passato.
La seconda è la deriva del concetto (concept drift): cambia la relazione tra i dati e l’esito che il sistema deve prevedere, per esempio perché una norma ha modificato i requisiti di accesso a una prestazione.
In entrambi i casi il sistema continua a produrre punteggi con la stessa sicurezza di sempre, ma non segnala di essere diventato meno affidabile, perché non lo sa.
La degradazione è silenziosa e si scopre solo misurandola.
I tre eventi che fanno scadere la valutazione
Una DPIA per un sistema di intelligenza artificiale deve quindi elencare esplicitamente gli eventi che rendono necessarie nuove verifiche.
Sono almeno tre e, per ciascuno, l’AI Act offre un criterio che il GDPR non aveva.
Il primo è l’aggiornamento del modello da parte del fornitore
Ogni nuova versione va trattata come un sistema parzialmente nuovo.
L’AI Act distingue le modifiche che il fornitore ha predeterminato e documentato fin dall’inizio nelle istruzioni per l’uso (articolo 13, paragrafo 3, lettera c) dalle “modifiche sostanziali” (articolo 3, punto 23), cioè quelle non previste che incidono sulla conformità del sistema o ne cambiano la finalità e che impongono una nuova valutazione della conformità (articolo 43, paragrafo 4).
Il contratto deve quindi obbligare il fornitore a
- comunicare gli aggiornamenti prima del rilascio;
- qualificarli secondo quella distinzione;
- documentare che cosa cambia;
- consentire test sull’ambiente dell’ente.
Il secondo è il cambiamento dei dati, nella loro fonte, nel loro formato o nella popolazione che descrivono:
- l’integrazione di una nuova banca dati;
- la modifica di un modulo di domanda;
- una variazione normativa dei requisiti.
Il terzo è l’estensione dell’uso. Un sistema valutato per istruire le domande di un contributo e poi impiegato, perché funziona bene, anche per la graduatoria degli alloggi o per la selezione dei controlli è un sistema che opera senza valutazione, anche se la DPIA originaria esiste ed è perfetta.
Ancora, l’articolo 25, paragrafo 1, dell’AI Act stabilisce che il deployer che modifica la finalità prevista di un sistema in modo da renderlo ad alto rischio, o che apporta una modifica sostanziale a un sistema ad alto rischio, è considerato fornitore e ne assume gli obblighi.
L’ufficio che “estende” un sistema non sta solo aggirando la DPIA: sta cambiando proprio ruolo giuridico.
Minacce nuove: data poisoning e attacchi avversari
Alla deriva spontanea si aggiungono le alterazioni intenzionali.
Il data poisoning è l’avvelenamento dei dati di addestramento: chi riesce a inserire esempi manipolati nei dati su cui il modello impara può orientarne il comportamento in modo mirato e difficile da rilevare.
Gli attacchi avversari, o adversarial attacks, agiscono invece sull’ingresso: modifiche minime e apparentemente innocue a un documento, a un’immagine o a un testo, costruite apposta per far cambiare l’output del sistema.
Sono minacce che nei modelli classici di sicurezza non esistevano e che l’AI Act prende in considerazione espressamente.
L’articolo 15 richiede ai sistemi ad alto rischio un livello adeguato di accuratezza, robustezza e cybersicurezza e, al paragrafo 5, elenca le vulnerabilità specifiche contro cui il fornitore deve adottare misure: la manipolazione dei dati di addestramento (data poisoning) e dei componenti pre-addestrati (model poisoning), gli input progettati per indurre il modello in errore (adversarial examples), gli attacchi alla riservatezza e i difetti del modello.
Pertanto l’ente che acquista deve chiedere al fornitore quali protezioni ha adottato e con quali prove, e includere queste minacce nell’analisi dei rischi della DPIA accanto a quelle tradizionali: lo impone già oggi l’articolo 32 del GDPR, che chiede misure di sicurezza adeguate al rischio effettivo, non a quello di ieri.
Dal riesame periodico al monitoraggio continuo
L’articolo 35, paragrafo 11, del GDPR prevede già che il titolare proceda a un riesame della valutazione “almeno quando insorgono variazioni del rischio”.
Per anni la norma è stata letta come un riesame periodico, spesso annuale, spesso formale.
Con l’intelligenza artificiale il riesame deve diventare un monitoraggio: una serie di indicatori raccolti durante l’uso e letti con regolarità.
Quali indicatori? Ad esempio:
- il tasso di errore sulle pratiche verificate a campione;
- il tasso di rettifica da parte dei funzionari;
- la distribuzione degli esiti per categorie di cittadini;
- il numero di reclami e ricorsi accolti;
- il registro delle versioni del modello e dei cambiamenti nei dati.
L’AI Act costruisce lo stesso circuito su due lati.
Il fornitore deve istituire un sistema di monitoraggio successivo all’immissione sul mercato (articolo 72) mentre il deployer deve monitorare il funzionamento secondo le istruzioni per l’uso, conservare i log e informare il fornitore e l’autorità di vigilanza del mercato quando emergono rischi o incidenti gravi (articolo 26, paragrafi 5 e 6).
È la DPIA-film, rispetto alla tradizionale DPIA-fotografia, non è un documento più lungo ma è un documento che si aggiorna con i numeri.
Chi può, e deve, spegnere il sistema
Resta la domanda che le valutazioni evitano spesso: quando bisogna sospendere l’uso del sistema, e chi può deciderlo?
Una valutazione del rischio senza soglie di sospensione è incompleta, perché descrive i rischi senza dire che cosa fare quando si trasformano in danno.
Su questo punto l’AI Act è esplicito.
L’articolo 26, paragrafo 5, stabilisce che il deployer il quale abbia motivo di ritenere che l’uso del sistema possa presentare un rischio per la salute, la sicurezza o i diritti fondamentali (articolo 79, paragrafo 1) deve, senza indebito ritardo, informare il fornitore e l’autorità di vigilanza del mercato e sospendere l’uso del sistema.
Spegnere non è, quindi, una facoltà ma un dovere; e dal 2 dicembre 2027, per i sistemi ad alto rischio, sarà un dovere sanzionabile.
La DPIA deve quindi indicare le condizioni che impongono la sospensione (ad esempio: un tasso di errore oltre una soglia, un aggiornamento non verificato, una segnalazione fondata di discriminazione, un incidente di sicurezza) e il nome della persona che ha il potere di disporla senza chiedere autorizzazioni a catena.
Un sistema che nessuno può spegnere in giornata è un sistema il cui rischio non è governato.
Conclusioni
L’affidabilità di un sistema di intelligenza artificiale è una condizione che si mantiene e che si perde in silenzio se nessuno la misura.
La valutazione iniziale resta indispensabile ma vale fino al primo aggiornamento, al primo cambiamento dei dati, alla prima estensione dell’uso.
Da quel momento conta il monitoraggio, con indicatori, soglie e un nome accanto all’interruttore.
Il GDPR lo richiedeva già; l’AI Act lo rende esplicito e, per i sistemi ad alto rischio, lo renderà obbligatorio dal 2 dicembre 2027; la deriva dei modelli lo rende inevitabile da subito.






















