AI nella PA: se nessuno ha mai detto no, non è supervisione umana; è una firma.

firma-funzionario

Tutte le norme sull’intelligenza artificiale applicabili nel settore pubblico, dal GDPR all’AI Act alla legge 132/2025, ruotano attorno a una figura: la persona che controlla la macchina e resta responsabile della decisione.

Eppure il controllo umano, scritto nei documenti, raramente viene misurato nella pratica.

Questo articolo propone un indicatore semplice, il tasso di rettifica, e spiega perché la DPIA deve valutare le condizioni organizzative del controllo (competenze, tempo, potere di correggere) e non limitarsi a registrare che una firma esiste.

Un funzionario che non capisce la proposta del sistema o non ha tempo di verificarla finisce per confermarla; e se in un anno nessuno ha mai cambiato l’esito proposto dalla macchina, quel numero non è un successo: è un allarme.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

La persona che resta responsabile

L’articolo 22, paragrafo 1, del GDPR riconosce all’interessato il diritto di non essere sottoposto a una decisione basata unicamente su un trattamento automatizzato che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.

La Corte di giustizia, nel caso SCHUFA (C-634/21), ha chiarito che si tratta di un divieto generale, derogabile solo nei casi del paragrafo 2, e che un punteggio è già una “decisione” quando chi lo riceve se ne serve in modo determinante.

Il Consiglio di Stato ne ha ricavato il principio di non esclusività della decisione algoritmica.

L’articolo 14, comma 2, della legge 132/2025 lo ha scritto per la Pubblica Amministrazione in termini inequivoci: l’utilizzo dell’intelligenza artificiale “avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti”.

La norma è chiara; il problema è che un principio giuridico, da solo, non garantisce un comportamento organizzativo.

La legge dice che la persona resta responsabile ma non dice come fare perché quella persona sia effettivamente in condizione di esercitare la responsabilità che la legge le attribuisce.

Automation bias: perché la firma non basta

La psicologia cognitiva ha un nome per ciò che accade quando una persona si trova davanti al suggerimento di una macchina: automation bias, la tendenza a fidarsi dell’output automatico più di quanto le evidenze giustifichino, soprattutto sotto pressione di tempo e in assenza di strumenti per verificarlo.

Non è pigrizia e non è incompetenza; è un meccanismo documentato da decenni di studi sui sistemi automatizzati, che colpisce anche i professionisti più esperti; ed è talmente riconosciuto che il legislatore europeo lo ha scritto nel testo dell’AI Act: l’articolo 14, paragrafo 4, lettera b), stabilisce che chi sorveglia un sistema ad alto rischio resti consapevole della possibile tendenza a fare automaticamente affidamento, o eccessivo affidamento, sull’output del sistema, che la versione italiana del regolamento chiama “distorsione dell’automazione” e quella inglese, appunto, automation bias.

Un funzionario che riceve cento pratiche al giorno già istruite dal sistema, con un punteggio e una proposta di esito, e che non dispone né del tempo né degli strumenti per ricostruire come quel punteggio sia stato generato, non potrà fare altro che confermare.

La sua firma attesterà un controllo che non c’è stato.

La firma finale, da sola, non dimostra che qualcuno abbia davvero controllato.

Tre condizioni organizzative da valutare nella DPIA

Per quanto detto finora, la valutazione d’impatto deve estendersi alle condizioni organizzative del controllo umano, che sono tre e vanno verificate una per una.

La prima è la competenza: chi controlla deve capire che cosa il sistema propone e perché. Non serve necessariamente un informatico ma una persona che conosca la materia abbastanza da riconoscere che, ad esempio, un reddito stagionale non è un reddito annuo.

La seconda è il tempo: un controllo che richiede dieci minuti per pratica non può essere assegnato a chi ne ha due.

Se l’organizzazione non prevede quel tempo, sta implicitamente decidendo che il controllo non avverrà.

La terza è il potere di correggere: chi controlla deve poter cambiare l’esito proposto senza dover giustificare la deviazione più di quanto debba giustificare la conferma.

Se discostarsi dal sistema è più faticoso che aderirvi, l’organizzazione ha già scelto.

Il tasso di rettifica: un numero che dice la verità

Tutto questo può essere misurato con un indicatore che nessuna norma impone ma che ogni norma presuppone: il tasso di rettifica, cioè quante volte in un anno una persona ha cambiato l’esito proposto dalla macchina.

È un dato che ogni sistema ben progettato registra o può registrare (per i sistemi ad alto rischio la conservazione dei log sarà un obbligo del deployer, ai sensi dell’articolo 26, paragrafo 6, dell’AI Act) e che dovrebbe comparire nel riesame periodico della DPIA.

La lettura è controintuitiva ma necessaria.

Un tasso di rettifica molto alto segnala un sistema inaffidabile o mal calibrato.

Un tasso pari a zero segnala, invece, un sistema che nessuno sta controllando. Se in un anno nessuno ha mai detto no al sistema si ha soltanto una firma non una supervisione umana.

L’indicatore va letto insieme ad altri due parametri: su quali categorie di pratiche si concentrano le rettifiche e con quale frequenza le rettifiche, e le conferme, resistono in sede di reclamo o ricorso.

Insieme, i tre numeri raccontano se il controllo umano esiste, dove funziona e dove è solo formale.

Cosa richiede l’AI Act a chi usa il sistema

L’AI Act conferma questa impostazione dal lato di chi impiega il sistema.

L’articolo 26, paragrafo 2, impone al deployer di un sistema ad alto rischio di affidare la sorveglianza umana a persone fisiche che dispongano “della competenza, della formazione e dell’autorità necessarie nonché del sostegno necessario”.

Il paragrafo 5 dello stesso articolo obbliga a monitorarne il funzionamento secondo le istruzioni per l’uso e a sospenderne l’uso quando vi sia motivo di ritenere che presenti un rischio.

Infine, il paragrafo 6 richiede di conservare i log generati dal sistema.

L’articolo 14, rivolto ai fornitori, stabilisce che il sistema sia progettato in modo da consentire a chi lo sorveglia di comprenderne capacità e limiti, di restare consapevole dell’automation bias, di interpretare correttamente l’output e di decidere di non usarlo, ignorarlo, annullarlo o ribaltarlo, fino a interrompere il sistema con un pulsante di arresto.

Competenza, sostegno (cioè tempo e strumenti), autorità di annullare: sono le tre condizioni organizzative, viste dal lato europeo.

Questi obblighi si applicheranno ai sistemi dell’allegato III dal 2 dicembre 2027, per effetto del regolamento (UE) 2026/1744.

Un’amministrazione che li ha già inseriti nella DPIA non avrà fatto tutto il lavoro, perché l’AI Act impone anche la registrazione nella banca dati europea, la valutazione d’impatto sui diritti fondamentali e l’informazione agli interessati.

Avrà, però, fatto la parte più difficile, quella che non si compra.

Il mito della responsabilità diffusa

C’è infine un rischio sottile che le norme non nominano ma che chi lavora negli uffici conosce bene: la responsabilità che, passando da una persona a un sistema e da un sistema a un fornitore, finisce per non appartenere a nessuno.

Frasi del tipo “l’ha voluto il mio predecessore”, “il fornitore ci ha assicurato”, “il sistema è certificato” preparano una decisione senza responsabile.

L’articolo 14, comma 2, della legge 132/2025 taglia questo nodo stabilendo che la persona resta l’unica responsabile; e l’articolo 6 della legge 241/1990 dice da oltre trent’anni chi è quella persona: il responsabile del procedimento, che cura l’istruttoria e adotta il provvedimento finale o trasmette gli atti all’organo competente per l’adozione.

La DPIA deve tradurlo in un nome: accanto a ogni sistema che propone decisioni, il nome di chi ne risponde e di chi può sospenderlo. Se quel nome manca, il sistema non ha una supervisione umana, per quante firme raccolga.

Conclusioni

Il controllo umano è il punto in cui il diritto incontra l’organizzazione.

Questo controllo si può scrivere nelle norme, nei capitolati e nelle DPIA ma esiste solo se qualcuno ha la competenza per capire, il tempo per verificare e il potere per correggere.

Il tasso di rettifica è il modo più semplice per scoprire se queste condizioni ci sono: un numero, una volta l’anno, che vale più di molte pagine.

Zero non è il risultato di un sistema perfetto ma è il sintomo di un’organizzazione che ha smesso di guardare.

 

 

Articoli Correlati

Ultime News

A.I.R. SHARE
Global

Missili anti-drone senza esplosivi: la svolta supersonica di A.I.RShare

Come funziona il missile intercettore Overwatch Secondo il fondatore e CEO Rick Whittaker, la tecnologia colpisce l'elemento essenziale che permette a qualsiasi drone di restare in aria: la portanza aerodinamica. «Per volare serve portanza,…

Global

IPO Anthropic da record: il valore dell’AI nasce dal sapere gratuito e dalla pirateria

Il valore di Anthropic è il sapere dell’umanità utilizzato senza chiedere permesso Questi modelli “intelligenti” sono stati addestrati su montagne di testi umani. Una parte rilevante è stata scaricata da biblioteche pirata: Library Genesis…

POSTE ITALIANE HACKING
Pillole Cyber

Data breach su PosteCert

Poste Italiane ha subito una violazione che ha portato alla pubblicazione sul darkweb di oltre duemila contratti legati al servizio di firma digitale remota PosteCert. Pare che non siano state compromesse password, credenziali bancarie…

BLOCCHI INFORMATICI
Diritto&Bit

Blocchi informatici e rischio sistemico: la fiducia digitale

Lo scrivo perché il problema che emerge da questi accadimenti è ancora più profondo e drammatico: sistemi digitali sempre più complessi, automatizzati, interdipendenti e concentrati possono produrre effetti a cascata, anche senza che dietro…

INFRASTRUTTURE CRITICHE
Global

E se tutto si ferma? Il rischio non è l’apocalisse digitale, ma la fragilità del mondo digitale che abbiamo costruito

  Per anni abbiamo considerato Internet, i servizi cloud, le piattaforme di comunicazione, i sistemi bancari online e le infrastrutture digitali come una sorta di ambiente permanente. Una dimensione invisibile, ma sempre disponibile. Un'estensione…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…