Scegli l'Assistente
Il diritto a una spiegazione comprensibile
Non si può e non si deve dire a un cittadino “lo ha stabilito il sistema”.
La frase, che nelle amministrazioni si sente con crescente frequenza, è l’esatto contrario di ciò che l’ordinamento richiede.
Deve essere possibile ricostruire quali dati hanno pesato nella decisione e in che modo hanno prodotto quel risultato.
Per un’amministrazione il primo fondamento è antico: l’articolo 3 della legge 241/1990 impone di motivare ogni provvedimento indicando i presupposti di fatto e le ragioni giuridiche della decisione.
Un provvedimento che rinvia a un punteggio inspiegato non è motivato.
Il secondo fondamento è nel GDPR
L’articolo 22 vieta, salvo eccezioni, le decisioni basate unicamente su un trattamento automatizzato che producano effetti giuridici sulla persona o incidano in modo analogo significativamente su di essa; il considerando 71 chiede garanzie adeguate, tra cui il diritto di ottenere una spiegazione della decisione e di contestarla; gli articoli 13, paragrafo 2, lettera f), 14, paragrafo 2, lettera g), e 15, paragrafo 1, lettera h), impongono di fornire “informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste” del trattamento.
Il terzo fondamento è nell’AI Act
L’articolo 86 riconosce a chi è destinatario di una decisione adottata dal deployer sulla base dell’output di un sistema ad alto rischio dell’allegato III, il diritto di ottenere “spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata”.
È un diritto che, riferendosi ai sistemi ad alto rischio, dispiegherà pienamente i suoi effetti con l’applicazione di quel regime, dal 2 dicembre 2027; ma indica già oggi la direzione.
Per anni si è discusso che cosa significhi “significative”. Oggi la risposta c’è.
Il caso Dun & Bradstreet: cosa ha detto la CGUE
La sentenza della Corte di giustizia del 27 febbraio 2025 nella causa C-203/22 deriva da un caso ordinario: un operatore di telefonia mobile austriaco aveva rifiutato a una cittadina un contratto da dieci euro al mese sulla base di una valutazione automatizzata della sua affidabilità creditizia, elaborata da Dun & Bradstreet Austria.
La cittadina aveva chiesto, esercitando il diritto di accesso dell’articolo 15, come quel giudizio fosse stato formato, e aveva ottenuto risposte generiche.
La Corte ha chiarito che le “informazioni significative sulla logica utilizzata” consistono nella spiegazione della procedura e dei principi concretamente applicati, fornita in forma concisa, trasparente, intelligibile e facilmente accessibile, come richiede l’articolo 12, e tale da permettere alla persona di capire quali suoi dati personali sono stati usati e in che modo.
La Corte ha detto due cose che vanno lette insieme
La prima: non basta consegnare la formula o l’algoritmo, perché una formula matematica complessa non è una spiegazione per chi non è in grado di leggerla.
Può invece esserlo, ha indicato la Corte, spiegare in che misura una variazione dei dati considerati avrebbe condotto a un risultato diverso.
La seconda: il titolare non è tenuto a rivelare integralmente il modello, il codice o i segreti commerciali, ma deve fornire una spiegazione intelligibile del nesso tra dati, criteri e risultato, sufficiente a comprendere la decisione e a contestarla efficacemente.
Due anni prima, nel caso SCHUFA (C-634/21, 7 dicembre 2023), la stessa Corte aveva stabilito che il punteggio è già una “decisione” ai sensi dell’articolo 22 quando il destinatario se ne serve in modo determinante.
È un avvertimento che vale per ogni amministrazione convinta che un punteggio “solo istruttorio” la tenga fuori dall’articolo 22.
Il segreto commerciale non è un muro
Il passaggio più utile per le amministrazioni riguarda proprio il segreto commerciale, che è l’argomento con cui molti fornitori chiudono la discussione e il confronto.
La Corte ha escluso che il segreto possa essere opposto in blocco.
Quando il titolare ritiene che le informazioni da fornire contengano dati di terzi o segreti commerciali protetti, deve comunque trasmetterle all’autorità di controllo o al giudice, ai quali spetta bilanciare gli interessi in gioco e stabilire quanto va comunicato all’interessato.
Per un ente pubblico la conseguenza è evidente.
Un contratto di acquisto che vincola l’amministrazione a non conoscere la logica del sistema che utilizza non la protegge ma la espone, perché l’obbligo di spiegare resta in capo a chi decide e non a chi ha fornito il software.
Il Consiglio di Stato e i tre principi della decisione algoritmica
L’Italia era arrivata a conclusioni simili prima dell’Europa.
Nelle sentenze della Sezione VI sulla mobilità dei docenti gestita da un algoritmo, a partire dalla n. 2270 dell’8 aprile 2019 e, in forma compiuta, nelle nn. 8472, 8473 e 8474 del 13 dicembre 2019 e nella n. 881 del 4 febbraio 2020, il Consiglio di Stato ha fissato tre principi che oggi costituiscono il diritto vivente della decisione amministrativa automatizzata.
Il primo è la conoscibilità: il cittadino ha diritto a conoscere l’esistenza del processo decisionale automatizzato e la sua logica, perché la regola tecnica che governa l’algoritmo, “costruita dall’uomo e non dalla macchina”, resta una regola amministrativa generale, soggetta ai principi di pubblicità, trasparenza, ragionevolezza e proporzionalità.
Il secondo è la non esclusività: deve esistere un contributo umano capace di controllare, validare o smentire la decisione automatica.
Il terzo è la non discriminazione algoritmica.
Il Consiglio di Stato li ha ricavati facendo leva proprio sull’articolo 22 e sul considerando 71 del GDPR. La Corte di giustizia non si è pronunciata su quelle sentenze, che non erano al suo esame, ma ne ha convalidato il nucleo: una spiegazione che l’interessato non può comprendere non è una spiegazione.
La legge 132/2025: conoscibilità e tracciabilità nella PA
La legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025, ha portato questi principi dentro una norma dedicata all’amministrazione.
L’articolo 14, comma 1, stabilisce che le pubbliche amministrazioni utilizzano l’intelligenza artificiale “assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo”; il comma 2 aggiunge che l’utilizzo “avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti” in cui l’intelligenza artificiale è stata utilizzata.
Conoscibilità e tracciabilità sono due obblighi distinti e complementari.
Il primo guarda al cittadino: deve poter capire.
Il secondo guarda all’ente: deve poter ricostruire, a distanza di tempo, quale versione del sistema ha prodotto quale risultato con quali dati.
Senza tracciabilità la spiegazione è impossibile, perché non si può spiegare ciò che non si è registrato.
Non a caso l’AI Act, per i sistemi ad alto rischio, imporrà al deployer di conservare i log generati dal sistema per almeno sei mesi (articolo 26, paragrafo 6) e di informare le persone fisiche di essere soggette all’uso del sistema (articolo 26, paragrafo 11).
La spiegabilità si scrive nel capitolato
Tutto questo ha una conseguenza pratica che precede qualsiasi DPIA: la capacità di spiegare va pretesa dal fornitore già nel capitolato di acquisto del sistema.
L’AI Act offre il modello.
L’articolo 13 obbliga il fornitore di un sistema ad alto rischio a consegnare istruzioni per l’uso che descrivano caratteristiche, capacità e limiti del sistema, il livello di accuratezza, i dati di ingresso previsti e le misure di sorveglianza umana.
Nulla vieta a un’amministrazione di esigere oggi, per contratto, ciò che dal 2 dicembre 2027 sarà dovuto per legge; le Linee guida AgID per il procurement di intelligenza artificiale nella PA, poste in consultazione nel marzo 2026 con uno schema di capitolato tecnico, vanno nella stessa direzione.
L’amministrazione non potrà mai difendere davanti a un cittadino, al Garante o a un giudice un sistema che:
- non sa dire quali variabili hanno pesato e in che misura;
- non conserva i registri delle decisioni;
- non documenta le versioni del modello.
La regola pratica è intuitiva: se il fornitore non sa spiegarlo all’Ente, l’Ente non saprà spiegarlo a un giudice.
Un sistema che resta una scatola nera presenta, per una Pubblica Amministrazione, un livello di rischio non accettabile, qualunque sia la sua efficienza.
Conclusioni
La spiegabilità non è un requisito tecnico tra gli altri ma è la condizione che rende possibile:
- la contestazione del cittadino;
- il controllo del funzionario;
- il riesame del giudice.
Corte di giustizia, Consiglio di Stato, legislatore europeo e legislatore italiano convergono su un punto che è anche di buon senso amministrativo: chi decide deve saper dire perché.
Per una famiglia alla quale un Comune nega un sostegno economico, la differenza tra “lo ha stabilito il sistema” e “il sistema ha stimato il vostro reddito in questo modo, e potete contestarlo così” è la differenza tra un’amministrazione che subisce la tecnologia e una che la governa.





















