Scegli l'Assistente
Un metodo che resta valido
Conviene partire da un punto fermo.
L’articolo 35, paragrafo 7, del GDPR impone alla valutazione d’impatto quattro contenuti minimi:
- a) una descrizione sistematica dei trattamenti e delle loro finalità;
- b) una valutazione della necessità e della proporzionalità dei trattamenti;
- c) una valutazione dei rischi per i diritti e le libertà degli interessati;
- d) le misure previste per affrontare quei rischi.
È una struttura semplice e robusta, coerente con la logica di gestione del rischio della ISO 31000, e non ha bisogno di essere riscritta.
Né c’è da discutere se la valutazione sia dovuta.
Un sistema che attribuisce punteggi a persone fisiche per decidere l’accesso a una prestazione compie una valutazione sistematica di aspetti personali basata su un trattamento automatizzato, compresa la profilazione definita dall’articolo 4, punto 4: rientra nell’ipotesi dell’articolo 35, paragrafo 3, lettera a), e nell’elenco dei trattamenti soggetti a valutazione d’impatto adottato dal Garante con il provvedimento n. 467 dell’11 ottobre 2018.
Ciò che cambia con l’intelligenza artificiale non è lo schema ma la scala.
Un funzionario che sbaglia lo fa su una singola pratica; un sistema che sbaglia può ripetere lo stesso errore in migliaia di decisioni, colpendo non singoli interessati ma intere categorie di persone.
Lo stesso schema, quindi, va applicato con molta più profondità su tre dimensioni che la DPIA tradizionale vedeva poco o non vedeva affatto.
Esaminiamole.
Cambia l’oggetto: il rischio sta nell’inferenza
Nella valutazione classica il rischio si concentra sul dato raccolto: dove lo conserviamo, chi vi accede, come lo proteggiamo.
Con un sistema di intelligenza artificiale il rischio si sposta sull’inferenza che il sistema produce: un punteggio, una priorità, un “sospetto”.
Quell’inferenza è a tutti gli effetti un dato personale.
La Corte di giustizia lo ha chiarito da tempo: anche le valutazioni e le opinioni riferite a una persona identificabile sono dati personali (sentenza Nowak, C-434/16, del 20 dicembre 2017); e nel caso SCHUFA (C-634/21, del 7 dicembre 2023) ha aggiunto che il punteggio stesso può costituire una “decisione” ai sensi dell’articolo 22, quando chi lo riceve se ne serve in modo determinante.
Ma è un dato che il cittadino non ha mai fornito e di cui spesso non conosce nemmeno l’esistenza.
La DPIA costruita attorno al ciclo di vita del dato raccolto non lo vede.
Può certificare che i dati di ingresso sono esatti, aggiornati e protetti e, nello stesso tempo, ignorare che l’ipotesi con cui il modello li combina è sbagliata.
Si può avere, così, un’ottima sicurezza dei dati e una pessima decisione pubblica.
Cambia il tempo: una data contro una versione
La DPIA ha una data.
Il modello ha una versione.
Il fornitore aggiorna il modello in una notte e, da quel momento, la valutazione descrive un sistema che non esiste più.
Una valutazione d’impatto con una data, su un sistema con una versione, rischia di essere già scaduta mentre viene firmata.
Il GDPR lo aveva previsto: l’articolo 35, paragrafo 11, impone al titolare di riesaminare la valutazione “almeno quando insorgono variazioni del rischio rappresentato dalle attività di trattamento”.
Ciò che l’intelligenza artificiale impone è rendere effettivo quel riesame, trasformandolo da clausola di stile a processo.
Occorre, pertanto, seguire il sistema durante l’uso e verificare che le garanzie continuino a funzionare dopo ogni aggiornamento, ogni cambio dei dati di ingresso, ogni estensione a una nuova attività.
Cambia il soggetto: l’errore che colpisce una categoria
L’errore algoritmico ha una caratteristica che l’errore umano non ha: è sistematico e orientato.
Un algoritmo che sbaglia lo fa su una categoria di persone, sempre nello stesso verso, con precisione matematica e, si potrebbe dire, con grande educazione.
Se i dati storici su cui è stato addestrato erano iniqui, replica l’iniquità senza alcuna intenzione di farlo.
C’è poi una seconda asimmetria.
Il rischio dell’ente e quello del cittadino non coincidono.
Per un Comune un falso positivo è un reclamo in più da gestire; per una famiglia è un sostegno economico che non arriva.
Il GDPR, del resto, chiede di valutare i rischi “per i diritti e le libertà delle persone fisiche”, non per l’organizzazione.
Una DPIA che misura il rischio solo dal punto di vista dell’ente sottostima strutturalmente il danno che conta, quello sulla persona, e non è conforme alla norma che dovrebbe attuare.
La famiglia stagionale: dati corretti, decisione sbagliata
Un esempio chiarisce meglio di qualsiasi definizione.
Immaginiamo un Comune che usa un sistema di intelligenza artificiale per istruire le domande di un sostegno economico.
Una famiglia guadagna 6.000 euro nei tre mesi estivi, lavorando nel turismo, e resta senza reddito per il resto dell’anno.
Un modello addestrato prevalentemente su stipendi regolari può proiettare quei guadagni su dodici mesi, stimare un reddito annuo di 24.000 euro e collocare la famiglia fuori dalla soglia di accesso.
I dati sono corretti: i guadagni registrati sono veri. È sbagliata l’ipotesi, mai dichiarata, che quei guadagni continuino tutto l’anno.
Nessuna misura di sicurezza informatica avrebbe potuto prevenire quell’errore, perché non è un errore sui dati ma sull’inferenza.
Per questo motivo, la valutazione d’impatto deve sempre considerare tre cose:
- come nascono i punteggi;
- quali errori produce il sistema
- su chi si concentrano quegli errori.
Per quella famiglia l’errore ha una conseguenza concreta, non statistica.
Espandere la DPIA, non rottamarla
La risposta non è abbandonare questo prezioso strumento di gestione dei rischi, ma espanderlo, integrando le prescrizioni del GDPR con quelle dell’AI Act.
L’allegato III, punto 5, lettera a), dell’AI Act qualifica ad alto rischio i sistemi destinati a essere usati dalle autorità pubbliche, o per loro conto, per valutare l’ammissibilità delle persone fisiche alle prestazioni e ai servizi di assistenza pubblica essenziali e per concederli, ridurli, revocarli o recuperarli.
Il sistema del Comune dell’esempio precedente vi rientra; e non può invocare la deroga dell’articolo 6, paragrafo 3, perché quella deroga non si applica mai ai sistemi che effettuano profilazione di persone fisiche.
Per questi sistemi l’articolo 27 dell’AI Act impone ai deployer che sono organismi di diritto pubblico, o soggetti privati che erogano servizi pubblici, una valutazione d’impatto sui diritti fondamentali (FRIA) prima del primo utilizzo: i processi in cui il sistema sarà usato, il periodo e la frequenza d’uso, le categorie di persone interessate, i rischi specifici di danno, le misure di sorveglianza umana e le misure da adottare se i rischi si concretizzano, compresi i meccanismi di reclamo.
Due precisazioni rendono il quadro esatto
La prima riguarda il tempo.
Il regolamento (UE) 2026/1744, in vigore dal 27 luglio 2026, ha differito al 2 dicembre 2027 l’applicazione degli obblighi per i sistemi ad alto rischio dell’allegato III, compresi gli articoli 26 e 27.
Chi oggi progetta o acquista un sistema del genere sa quindi con precisione che cosa gli sarà chiesto e quando.
La seconda riguarda il metodo.
L’articolo 27, paragrafo 4, nel testo modificato, prevede che la valutazione sui diritti fondamentali possa rinviare alla DPIA o incorporarne parti; e l’articolo 26, paragrafo 9, chiede al deployer di usare le informazioni ricevute dal fornitore con le istruzioni per l’uso proprio per redigere la DPIA.
Il legislatore europeo, in altre parole, ha costruito la valutazione sui diritti fondamentali come un’estensione di quella sulla protezione dei dati, non come un documento concorrente.
La DPIA ampliata ne è il naturale punto di partenza.
Cambia anche chi siede al tavolo per gestire i sistemi di AI.
Non più soltanto il DPO e il responsabile dei sistemi informativi ma anche chi conosce il modello, il responsabile del procedimento e gli esperti della materia trattata che sono gli unici in grado di riconoscere che un reddito stagionale non è un reddito annuo.
Il rischio da governare non è più solo quello della perdita di riservatezza, integrità e disponibilità dei dati ma anche la perdita di fiducia del cittadino nelle decisioni pubbliche.
Conclusioni
La DPIA che conoscevamo fotografava un trattamento con un approccio statico e deterministico: quali dati raccogliamo, dove li salviamo, chi vi accede, con quali misure.
Con l’intelligenza artificiale la dimensione diventa dinamica e probabilistica: il sistema apprende, inferisce, si evolve e suggerisce decisioni che incidono sulla vita delle persone.
Serve, quindi, una DPIA-film, che segua il sistema nel tempo e misuri l’errore dal lato di chi lo subisce.
Torniamo all’esempio della famiglia che aspetta il sostegno: una buona valutazione deve aiutare a prevenire l’errore e a correggerlo se accade, garantendo a quella famiglia una spiegazione e ciò che le spetta.
È su questa capacità, e non sulla completezza del documento, che si misura la qualità della gestione del rischio di un ente pubblico.
In fondo a ogni decisione c’è sempre una persona che firma: mai chi ha scritto l’algoritmo.






















