Dalla fotografia al film. Perché l’IA trasforma la DPIA e riscrive il concetto stesso di rischio

DPIA Intelligenza Artificiale

La valutazione d’impatto sulla protezione dei dati (DPIA) che le pubbliche amministrazioni hanno imparato a redigere in otto anni di GDPR risponde a una domanda precisa: che cosa facciamo con i dati di questa persona?

L’intelligenza artificiale ne pone un’altra, più scomoda: che cosa stiamo permettendo a una macchina di dedurre su questa persona, e chi può ancora dirle di no?

Il metodo dell’articolo 35 del GDPR resta valido, ma va applicato con una profondità nuova, perché cambiano tre cose insieme: l’oggetto del rischio, il suo tempo e il suo soggetto.

Da una DPIA-fotografia, statica e deterministica, si passa a una DPIA-film, dinamica e probabilistica. E l’AI Act, con la valutazione d’impatto sui diritti fondamentali, non chiede di ricominciare da capo: chiede di partire proprio da lì.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

Un metodo che resta valido

Conviene partire da un punto fermo.

L’articolo 35, paragrafo 7, del GDPR impone alla valutazione d’impatto quattro contenuti minimi:

  1. a) una descrizione sistematica dei trattamenti e delle loro finalità;
  2. b) una valutazione della necessità e della proporzionalità dei trattamenti;
  3. c) una valutazione dei rischi per i diritti e le libertà degli interessati;
  4. d) le misure previste per affrontare quei rischi.

È una struttura semplice e robusta, coerente con la logica di gestione del rischio della ISO 31000, e non ha bisogno di essere riscritta.

Né c’è da discutere se la valutazione sia dovuta.

Un sistema che attribuisce punteggi a persone fisiche per decidere l’accesso a una prestazione compie una valutazione sistematica di aspetti personali basata su un trattamento automatizzato, compresa la profilazione definita dall’articolo 4, punto 4: rientra nell’ipotesi dell’articolo 35, paragrafo 3, lettera a), e nell’elenco dei trattamenti soggetti a valutazione d’impatto adottato dal Garante con il provvedimento n. 467 dell’11 ottobre 2018.

Ciò che cambia con l’intelligenza artificiale non è lo schema ma la scala.

Un funzionario che sbaglia lo fa su una singola pratica; un sistema che sbaglia può ripetere lo stesso errore in migliaia di decisioni, colpendo non singoli interessati ma intere categorie di persone.

Lo stesso schema, quindi, va applicato con molta più profondità su tre dimensioni che la DPIA tradizionale vedeva poco o non vedeva affatto.

Esaminiamole.

Cambia l’oggetto: il rischio sta nell’inferenza

Nella valutazione classica il rischio si concentra sul dato raccolto: dove lo conserviamo, chi vi accede, come lo proteggiamo.

Con un sistema di intelligenza artificiale il rischio si sposta sull’inferenza che il sistema produce: un punteggio, una priorità, un “sospetto”.

Quell’inferenza è a tutti gli effetti un dato personale.

La Corte di giustizia lo ha chiarito da tempo: anche le valutazioni e le opinioni riferite a una persona identificabile sono dati personali (sentenza Nowak, C-434/16, del 20 dicembre 2017); e nel caso SCHUFA (C-634/21, del 7 dicembre 2023) ha aggiunto che il punteggio stesso può costituire una “decisione” ai sensi dell’articolo 22, quando chi lo riceve se ne serve in modo determinante.

Ma è un dato che il cittadino non ha mai fornito e di cui spesso non conosce nemmeno l’esistenza.

La DPIA costruita attorno al ciclo di vita del dato raccolto non lo vede.

Può certificare che i dati di ingresso sono esatti, aggiornati e protetti e, nello stesso tempo, ignorare che l’ipotesi con cui il modello li combina è sbagliata.

Si può avere, così, un’ottima sicurezza dei dati e una pessima decisione pubblica.

Cambia il tempo: una data contro una versione

La DPIA ha una data.

Il modello ha una versione.

Il fornitore aggiorna il modello in una notte e, da quel momento, la valutazione descrive un sistema che non esiste più.

Una valutazione d’impatto con una data, su un sistema con una versione, rischia di essere già scaduta mentre viene firmata.

Il GDPR lo aveva previsto: l’articolo 35, paragrafo 11, impone al titolare di riesaminare la valutazione “almeno quando insorgono variazioni del rischio rappresentato dalle attività di trattamento”.

Ciò che l’intelligenza artificiale impone è rendere effettivo quel riesame, trasformandolo da clausola di stile a processo.

Occorre, pertanto, seguire il sistema durante l’uso e verificare che le garanzie continuino a funzionare dopo ogni aggiornamento, ogni cambio dei dati di ingresso, ogni estensione a una nuova attività.

Cambia il soggetto: l’errore che colpisce una categoria

L’errore algoritmico ha una caratteristica che l’errore umano non ha: è sistematico e orientato.

Un algoritmo che sbaglia lo fa su una categoria di persone, sempre nello stesso verso, con precisione matematica e, si potrebbe dire, con grande educazione.

Se i dati storici su cui è stato addestrato erano iniqui, replica l’iniquità senza alcuna intenzione di farlo.

C’è poi una seconda asimmetria.

Il rischio dell’ente e quello del cittadino non coincidono.

Per un Comune un falso positivo è un reclamo in più da gestire; per una famiglia è un sostegno economico che non arriva.

Il GDPR, del resto, chiede di valutare i rischi “per i diritti e le libertà delle persone fisiche”, non per l’organizzazione.

Una DPIA che misura il rischio solo dal punto di vista dell’ente sottostima strutturalmente il danno che conta, quello sulla persona, e non è conforme alla norma che dovrebbe attuare.

La famiglia stagionale: dati corretti, decisione sbagliata

Un esempio chiarisce meglio di qualsiasi definizione.

Immaginiamo un Comune che usa un sistema di intelligenza artificiale per istruire le domande di un sostegno economico.

Una famiglia guadagna 6.000 euro nei tre mesi estivi, lavorando nel turismo, e resta senza reddito per il resto dell’anno.

Un modello addestrato prevalentemente su stipendi regolari può proiettare quei guadagni su dodici mesi, stimare un reddito annuo di 24.000 euro e collocare la famiglia fuori dalla soglia di accesso.

I dati sono corretti: i guadagni registrati sono veri. È sbagliata l’ipotesi, mai dichiarata, che quei guadagni continuino tutto l’anno.

Nessuna misura di sicurezza informatica avrebbe potuto prevenire quell’errore, perché non è un errore sui dati ma sull’inferenza.

Per questo motivo, la valutazione d’impatto deve sempre considerare tre cose:

  • come nascono i punteggi;
  • quali errori produce il sistema
  • su chi si concentrano quegli errori.

Per quella famiglia l’errore ha una conseguenza concreta, non statistica.

Espandere la DPIA, non rottamarla

La risposta non è abbandonare questo prezioso strumento di gestione dei rischi, ma espanderlo, integrando le prescrizioni del GDPR con quelle dell’AI Act.

L’allegato III, punto 5, lettera a), dell’AI Act qualifica ad alto rischio i sistemi destinati a essere usati dalle autorità pubbliche, o per loro conto, per valutare l’ammissibilità delle persone fisiche alle prestazioni e ai servizi di assistenza pubblica essenziali e per concederli, ridurli, revocarli o recuperarli.

Il sistema del Comune dell’esempio precedente vi rientra; e non può invocare la deroga dell’articolo 6, paragrafo 3, perché quella deroga non si applica mai ai sistemi che effettuano profilazione di persone fisiche.

Per questi sistemi l’articolo 27 dell’AI Act impone ai deployer che sono organismi di diritto pubblico, o soggetti privati che erogano servizi pubblici, una valutazione d’impatto sui diritti fondamentali (FRIA) prima del primo utilizzo: i processi in cui il sistema sarà usato, il periodo e la frequenza d’uso, le categorie di persone interessate, i rischi specifici di danno, le misure di sorveglianza umana e le misure da adottare se i rischi si concretizzano, compresi i meccanismi di reclamo.

Due precisazioni rendono il quadro esatto

La prima riguarda il tempo.

Il regolamento (UE) 2026/1744, in vigore dal 27 luglio 2026, ha differito al 2 dicembre 2027 l’applicazione degli obblighi per i sistemi ad alto rischio dell’allegato III, compresi gli articoli 26 e 27.

Chi oggi progetta o acquista un sistema del genere sa quindi con precisione che cosa gli sarà chiesto e quando.

La seconda riguarda il metodo.

L’articolo 27, paragrafo 4, nel testo modificato, prevede che la valutazione sui diritti fondamentali possa rinviare alla DPIA o incorporarne parti; e l’articolo 26, paragrafo 9, chiede al deployer di usare le informazioni ricevute dal fornitore con le istruzioni per l’uso proprio per redigere la DPIA.

Il legislatore europeo, in altre parole, ha costruito la valutazione sui diritti fondamentali come un’estensione di quella sulla protezione dei dati, non come un documento concorrente.

La DPIA ampliata ne è il naturale punto di partenza.

Cambia anche chi siede al tavolo per gestire i sistemi di AI.

Non più soltanto il DPO e il responsabile dei sistemi informativi ma anche chi conosce il modello, il responsabile del procedimento e gli esperti della materia trattata che sono gli unici in grado di riconoscere che un reddito stagionale non è un reddito annuo.

Il rischio da governare non è più solo quello della perdita di riservatezza, integrità e disponibilità dei dati ma anche la perdita di fiducia del cittadino nelle decisioni pubbliche.

Conclusioni

La DPIA che conoscevamo fotografava un trattamento con un approccio statico e deterministico: quali dati raccogliamo, dove li salviamo, chi vi accede, con quali misure.

Con l’intelligenza artificiale la dimensione diventa dinamica e probabilistica: il sistema apprende, inferisce, si evolve e suggerisce decisioni che incidono sulla vita delle persone.

Serve, quindi, una DPIA-film, che segua il sistema nel tempo e misuri l’errore dal lato di chi lo subisce.

Torniamo all’esempio della famiglia che aspetta il sostegno: una buona valutazione deve aiutare a prevenire l’errore e a correggerlo se accade, garantendo a quella famiglia una spiegazione e ciò che le spetta.

È su questa capacità, e non sulla completezza del documento, che si misura la qualità della gestione del rischio di un ente pubblico.

In fondo a ogni decisione c’è sempre una persona che firma: mai chi ha scritto l’algoritmo.

Articoli Correlati

Ultime News

Cybersecurity-Open-Source
Global

Cybersecurity e IA: vulnerabilità, open source e crisi 2026

Furti di criptovalute e non solo: un ottobre di fuoco per la cybersecurity Nelle ultime settimane, i casi riportati dalle grandi testate giornalistiche hanno preoccupato tanto gli addetti ai lavori quanto i comuni utenti.…

CYBERSICUREZZA
Global

Allarmi bomba via e-mail: che cosa possono dirci davvero i controlli informatici

  Come analista della comunicazione strategica, considero la cybersecurity una componente essenziale dell’analisi. Un messaggio può produrre conseguenze concrete sulle decisioni, sulla continuità dei servizi e sulla fiducia nelle istituzioni. La sua pericolosità non…

Global

Sicurezza Infrastrutture Critiche: dai supermercati alle reti vitali

Va detto che la normativa europea si è già mossa in questa direzione, e in modo significativo. La direttiva NIS2 impone oggi alle entità ritenute critiche ed essenziali un vero e proprio regime di…

DPIA Intelligenza Artificiale
Protezione Dati

Dalla fotografia al film. Perché l’IA trasforma la DPIA e riscrive il concetto stesso di rischio

Un metodo che resta valido Conviene partire da un punto fermo. L'articolo 35, paragrafo 7, del GDPR impone alla valutazione d'impatto quattro contenuti minimi: a) una descrizione sistematica dei trattamenti e delle loro finalità;…

Diritto&Bit

La vera natura delle Linee Guida di Agid sull’IA nelle PA: fonte normativa o strumento di indirizzo orientativo?

Ho sfogliato con interesse le nuove Linee Guida AgID per l’adozione dell’Intelligenza Artificiale nella Pubblica Amministrazione. La prima impressione è positiva. Si tratta di un documento ampio, senz'altro attuale e ben costruito che si…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

SPAZIO
Spazio

Feudi orbitali: chi detta le regole della guerra nello spazio?

L'orbita non attende: la vulnerabilità dei servizi spaziali Nelle prime ore del 24 febbraio 2022, in concomitanza con l’invasione russa dell’Ucraina, un attacco cibernetico alla rete KA-SAT di Viasat interruppe servizi di connettività in…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…