AI e PA. “Lo ha stabilito il sistema” non è una risposta. La spiegabilità da Dun & Bradstreet al Consiglio di Stato

pa-sportello-comunale-ia

Quando una decisione pubblica è preparata da un algoritmo, il cittadino ha diritto a sapere quali dati hanno contato e in che modo. Non è un’aspirazione etica ma un obbligo giuridico, che la Corte di giustizia dell’Unione europea ha precisato il 27 febbraio 2025 nel caso Dun & Bradstreet, che il Consiglio di Stato ripete alle amministrazioni italiane dal 2019, che la legge 132/2025 ha scritto in modo esplicito per la Pubblica Amministrazione e che l’AI Act ha trasformato in un diritto autonomo della persona.

La spiegabilità non si aggiunge dopo: si pretende dal fornitore nel capitolato, prima dell’acquisto. Se il fornitore non sa spiegare il sistema all’ente, l’ente non saprà spiegarlo a un giudice.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

Il diritto a una spiegazione comprensibile

Non si può e non si deve dire a un cittadino “lo ha stabilito il sistema”.

La frase, che nelle amministrazioni si sente con crescente frequenza, è l’esatto contrario di ciò che l’ordinamento richiede.

Deve essere possibile ricostruire quali dati hanno pesato nella decisione e in che modo hanno prodotto quel risultato.

Per un’amministrazione il primo fondamento è antico: l’articolo 3 della legge 241/1990 impone di motivare ogni provvedimento indicando i presupposti di fatto e le ragioni giuridiche della decisione.

Un provvedimento che rinvia a un punteggio inspiegato non è motivato.

Il secondo fondamento è nel GDPR

L’articolo 22 vieta, salvo eccezioni, le decisioni basate unicamente su un trattamento automatizzato che producano effetti giuridici sulla persona o incidano in modo analogo significativamente su di essa; il considerando 71 chiede garanzie adeguate, tra cui il diritto di ottenere una spiegazione della decisione e di contestarla; gli articoli 13, paragrafo 2, lettera f), 14, paragrafo 2, lettera g), e 15, paragrafo 1, lettera h), impongono di fornire “informazioni significative sulla logica utilizzata, nonché l’importanza e le conseguenze previste” del trattamento.

Il terzo fondamento è nell’AI Act

L’articolo 86 riconosce a chi è destinatario di una decisione adottata dal deployer sulla base dell’output di un sistema ad alto rischio dell’allegato III, il diritto di ottenere “spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata”.

È un diritto che, riferendosi ai sistemi ad alto rischio, dispiegherà pienamente i suoi effetti con l’applicazione di quel regime, dal 2 dicembre 2027; ma indica già oggi la direzione.

Per anni si è discusso che cosa significhi “significative”. Oggi la risposta c’è.

Il caso Dun & Bradstreet: cosa ha detto la CGUE

La sentenza della Corte di giustizia del 27 febbraio 2025 nella causa C-203/22 deriva da un caso ordinario: un operatore di telefonia mobile austriaco aveva rifiutato a una cittadina un contratto da dieci euro al mese sulla base di una valutazione automatizzata della sua affidabilità creditizia, elaborata da Dun & Bradstreet Austria.

La cittadina aveva chiesto, esercitando il diritto di accesso dell’articolo 15, come quel giudizio fosse stato formato, e aveva ottenuto risposte generiche.

La Corte ha chiarito che le “informazioni significative sulla logica utilizzata” consistono nella spiegazione della procedura e dei principi concretamente applicati, fornita in forma concisa, trasparente, intelligibile e facilmente accessibile, come richiede l’articolo 12, e tale da permettere alla persona di capire quali suoi dati personali sono stati usati e in che modo.

La Corte ha detto due cose che vanno lette insieme

La prima: non basta consegnare la formula o l’algoritmo, perché una formula matematica complessa non è una spiegazione per chi non è in grado di leggerla.

Può invece esserlo, ha indicato la Corte, spiegare in che misura una variazione dei dati considerati avrebbe condotto a un risultato diverso.

La seconda: il titolare non è tenuto a rivelare integralmente il modello, il codice o i segreti commerciali, ma deve fornire una spiegazione intelligibile del nesso tra dati, criteri e risultato, sufficiente a comprendere la decisione e a contestarla efficacemente.

Due anni prima, nel caso SCHUFA (C-634/21, 7 dicembre 2023), la stessa Corte aveva stabilito che il punteggio è già una “decisione” ai sensi dell’articolo 22 quando il destinatario se ne serve in modo determinante.

È un avvertimento che vale per ogni amministrazione convinta che un punteggio “solo istruttorio” la tenga fuori dall’articolo 22.

Il segreto commerciale non è un muro

Il passaggio più utile per le amministrazioni riguarda proprio il segreto commerciale, che è l’argomento con cui molti fornitori chiudono la discussione e il confronto.

La Corte ha escluso che il segreto possa essere opposto in blocco.

Quando il titolare ritiene che le informazioni da fornire contengano dati di terzi o segreti commerciali protetti, deve comunque trasmetterle all’autorità di controllo o al giudice, ai quali spetta bilanciare gli interessi in gioco e stabilire quanto va comunicato all’interessato.

Per un ente pubblico la conseguenza è evidente.

Un contratto di acquisto che vincola l’amministrazione a non conoscere la logica del sistema che utilizza non la protegge ma la espone, perché l’obbligo di spiegare resta in capo a chi decide e non a chi ha fornito il software.

Il Consiglio di Stato e i tre principi della decisione algoritmica

L’Italia era arrivata a conclusioni simili prima dell’Europa.

Nelle sentenze della Sezione VI sulla mobilità dei docenti gestita da un algoritmo, a partire dalla n. 2270 dell’8 aprile 2019 e, in forma compiuta, nelle nn. 8472, 8473 e 8474 del 13 dicembre 2019 e nella n. 881 del 4 febbraio 2020, il Consiglio di Stato ha fissato tre principi che oggi costituiscono il diritto vivente della decisione amministrativa automatizzata.

Il primo è la conoscibilità: il cittadino ha diritto a conoscere l’esistenza del processo decisionale automatizzato e la sua logica, perché la regola tecnica che governa l’algoritmo, “costruita dall’uomo e non dalla macchina”, resta una regola amministrativa generale, soggetta ai principi di pubblicità, trasparenza, ragionevolezza e proporzionalità.

Il secondo è la non esclusività: deve esistere un contributo umano capace di controllare, validare o smentire la decisione automatica.

Il terzo è la non discriminazione algoritmica.

Il Consiglio di Stato li ha ricavati facendo leva proprio sull’articolo 22 e sul considerando 71 del GDPR. La Corte di giustizia non si è pronunciata su quelle sentenze, che non erano al suo esame, ma ne ha convalidato il nucleo: una spiegazione che l’interessato non può comprendere non è una spiegazione.

La legge 132/2025: conoscibilità e tracciabilità nella PA

La legge 23 settembre 2025, n. 132, in vigore dal 10 ottobre 2025, ha portato questi principi dentro una norma dedicata all’amministrazione.

L’articolo 14, comma 1, stabilisce che le pubbliche amministrazioni utilizzano l’intelligenza artificiale “assicurando agli interessati la conoscibilità del suo funzionamento e la tracciabilità del suo utilizzo”; il comma 2 aggiunge che l’utilizzo “avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti” in cui l’intelligenza artificiale è stata utilizzata.

Conoscibilità e tracciabilità sono due obblighi distinti e complementari.

Il primo guarda al cittadino: deve poter capire.

Il secondo guarda all’ente: deve poter ricostruire, a distanza di tempo, quale versione del sistema ha prodotto quale risultato con quali dati.

Senza tracciabilità la spiegazione è impossibile, perché non si può spiegare ciò che non si è registrato.

Non a caso l’AI Act, per i sistemi ad alto rischio, imporrà al deployer di conservare i log generati dal sistema per almeno sei mesi (articolo 26, paragrafo 6) e di informare le persone fisiche di essere soggette all’uso del sistema (articolo 26, paragrafo 11).

La spiegabilità si scrive nel capitolato

Tutto questo ha una conseguenza pratica che precede qualsiasi DPIA: la capacità di spiegare va pretesa dal fornitore già nel capitolato di acquisto del sistema.

L’AI Act offre il modello.

L’articolo 13 obbliga il fornitore di un sistema ad alto rischio a consegnare istruzioni per l’uso che descrivano caratteristiche, capacità e limiti del sistema, il livello di accuratezza, i dati di ingresso previsti e le misure di sorveglianza umana.

Nulla vieta a un’amministrazione di esigere oggi, per contratto, ciò che dal 2 dicembre 2027 sarà dovuto per legge; le Linee guida AgID per il procurement di intelligenza artificiale nella PA, poste in consultazione nel marzo 2026 con uno schema di capitolato tecnico, vanno nella stessa direzione.

L’amministrazione non potrà mai difendere davanti a un cittadino, al Garante o a un giudice un sistema che:

  • non sa dire quali variabili hanno pesato e in che misura;
  • non conserva i registri delle decisioni;
  • non documenta le versioni del modello.

La regola pratica è intuitiva: se il fornitore non sa spiegarlo all’Ente, l’Ente non saprà spiegarlo a un giudice.

Un sistema che resta una scatola nera presenta, per una Pubblica Amministrazione, un livello di rischio non accettabile, qualunque sia la sua efficienza.

Conclusioni

La spiegabilità non è un requisito tecnico tra gli altri ma è la condizione che rende possibile:

  • la contestazione del cittadino;
  • il controllo del funzionario;
  • il riesame del giudice.

Corte di giustizia, Consiglio di Stato, legislatore europeo e legislatore italiano convergono su un punto che è anche di buon senso amministrativo: chi decide deve saper dire perché.

Per una famiglia alla quale un Comune nega un sostegno economico, la differenza tra “lo ha stabilito il sistema” e “il sistema ha stimato il vostro reddito in questo modo, e potete contestarlo così” è la differenza tra un’amministrazione che subisce la tecnologia e una che la governa.

 

 

 

 

 

 

Articoli Correlati

Ultime News

DANIELE CHIEFFI INTERVISTA
Italia

La comunicazione nell’era della IA. Intervista a Daniele Chieffi

Questo è il primo manuale di comunicazione nell'era dell'AI. Non spiega come usare l'AI per lavorare più in fretta. Spiega cosa succede alla comunicazione, alla reputazione e al comunicatore quando è l'AI che comunica.…

Cybersecurity-APT
Italia

APT, cybercriminali e hacktivisti: come funzionano le alleanze della guerra cibernetica. Intervista ad Antonio Teti

Raffaele Barberio. Quando parliamo di gruppi APT che collaborano con altri gruppi di hacker, quale fenomeno stiamo descrivendo? Antonio Teti. Descriviamo una minaccia nella quale capacità e responsabilità possono essere distribuite tra soggetti diversi.…

Global

Crisi voli USA e rete FAA: perché il blackout nasce da un lock-in lungo 25 anni

La cronistoria dei rinvii: dal 2015 al maxi-contratto con Verizon La FAA acquistava un servizio, mentre gli apparati rimanevano di proprietà del fornitore e dei suoi partner. Una scelta che avrebbe reso particolarmente complesso…

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Pillole Cyber

La casa connessa sotto assedio digitale

Il punto debole della Smart Home: le falle silenziose La riflessione prende le mosse dal fatto che nelle case degli italiani operano oggi oltre 100 milioni di dispositivi connessi alla rete tra smartphone, computer,…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…