Scegli l'Assistente
La persona che resta responsabile
L’articolo 22, paragrafo 1, del GDPR riconosce all’interessato il diritto di non essere sottoposto a una decisione basata unicamente su un trattamento automatizzato che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.
La Corte di giustizia, nel caso SCHUFA (C-634/21), ha chiarito che si tratta di un divieto generale, derogabile solo nei casi del paragrafo 2, e che un punteggio è già una “decisione” quando chi lo riceve se ne serve in modo determinante.
Il Consiglio di Stato ne ha ricavato il principio di non esclusività della decisione algoritmica.
L’articolo 14, comma 2, della legge 132/2025 lo ha scritto per la Pubblica Amministrazione in termini inequivoci: l’utilizzo dell’intelligenza artificiale “avviene in funzione strumentale e di supporto all’attività provvedimentale, nel rispetto dell’autonomia e del potere decisionale della persona che resta l’unica responsabile dei provvedimenti e dei procedimenti”.
La norma è chiara; il problema è che un principio giuridico, da solo, non garantisce un comportamento organizzativo.
La legge dice che la persona resta responsabile ma non dice come fare perché quella persona sia effettivamente in condizione di esercitare la responsabilità che la legge le attribuisce.
Automation bias: perché la firma non basta
La psicologia cognitiva ha un nome per ciò che accade quando una persona si trova davanti al suggerimento di una macchina: automation bias, la tendenza a fidarsi dell’output automatico più di quanto le evidenze giustifichino, soprattutto sotto pressione di tempo e in assenza di strumenti per verificarlo.
Non è pigrizia e non è incompetenza; è un meccanismo documentato da decenni di studi sui sistemi automatizzati, che colpisce anche i professionisti più esperti; ed è talmente riconosciuto che il legislatore europeo lo ha scritto nel testo dell’AI Act: l’articolo 14, paragrafo 4, lettera b), stabilisce che chi sorveglia un sistema ad alto rischio resti consapevole della possibile tendenza a fare automaticamente affidamento, o eccessivo affidamento, sull’output del sistema, che la versione italiana del regolamento chiama “distorsione dell’automazione” e quella inglese, appunto, automation bias.
Un funzionario che riceve cento pratiche al giorno già istruite dal sistema, con un punteggio e una proposta di esito, e che non dispone né del tempo né degli strumenti per ricostruire come quel punteggio sia stato generato, non potrà fare altro che confermare.
La sua firma attesterà un controllo che non c’è stato.
La firma finale, da sola, non dimostra che qualcuno abbia davvero controllato.
Tre condizioni organizzative da valutare nella DPIA
Per quanto detto finora, la valutazione d’impatto deve estendersi alle condizioni organizzative del controllo umano, che sono tre e vanno verificate una per una.
La prima è la competenza: chi controlla deve capire che cosa il sistema propone e perché. Non serve necessariamente un informatico ma una persona che conosca la materia abbastanza da riconoscere che, ad esempio, un reddito stagionale non è un reddito annuo.
La seconda è il tempo: un controllo che richiede dieci minuti per pratica non può essere assegnato a chi ne ha due.
Se l’organizzazione non prevede quel tempo, sta implicitamente decidendo che il controllo non avverrà.
La terza è il potere di correggere: chi controlla deve poter cambiare l’esito proposto senza dover giustificare la deviazione più di quanto debba giustificare la conferma.
Se discostarsi dal sistema è più faticoso che aderirvi, l’organizzazione ha già scelto.
Il tasso di rettifica: un numero che dice la verità
Tutto questo può essere misurato con un indicatore che nessuna norma impone ma che ogni norma presuppone: il tasso di rettifica, cioè quante volte in un anno una persona ha cambiato l’esito proposto dalla macchina.
È un dato che ogni sistema ben progettato registra o può registrare (per i sistemi ad alto rischio la conservazione dei log sarà un obbligo del deployer, ai sensi dell’articolo 26, paragrafo 6, dell’AI Act) e che dovrebbe comparire nel riesame periodico della DPIA.
La lettura è controintuitiva ma necessaria.
Un tasso di rettifica molto alto segnala un sistema inaffidabile o mal calibrato.
Un tasso pari a zero segnala, invece, un sistema che nessuno sta controllando. Se in un anno nessuno ha mai detto no al sistema si ha soltanto una firma non una supervisione umana.
L’indicatore va letto insieme ad altri due parametri: su quali categorie di pratiche si concentrano le rettifiche e con quale frequenza le rettifiche, e le conferme, resistono in sede di reclamo o ricorso.
Insieme, i tre numeri raccontano se il controllo umano esiste, dove funziona e dove è solo formale.
Cosa richiede l’AI Act a chi usa il sistema
L’AI Act conferma questa impostazione dal lato di chi impiega il sistema.
L’articolo 26, paragrafo 2, impone al deployer di un sistema ad alto rischio di affidare la sorveglianza umana a persone fisiche che dispongano “della competenza, della formazione e dell’autorità necessarie nonché del sostegno necessario”.
Il paragrafo 5 dello stesso articolo obbliga a monitorarne il funzionamento secondo le istruzioni per l’uso e a sospenderne l’uso quando vi sia motivo di ritenere che presenti un rischio.
Infine, il paragrafo 6 richiede di conservare i log generati dal sistema.
L’articolo 14, rivolto ai fornitori, stabilisce che il sistema sia progettato in modo da consentire a chi lo sorveglia di comprenderne capacità e limiti, di restare consapevole dell’automation bias, di interpretare correttamente l’output e di decidere di non usarlo, ignorarlo, annullarlo o ribaltarlo, fino a interrompere il sistema con un pulsante di arresto.
Competenza, sostegno (cioè tempo e strumenti), autorità di annullare: sono le tre condizioni organizzative, viste dal lato europeo.
Questi obblighi si applicheranno ai sistemi dell’allegato III dal 2 dicembre 2027, per effetto del regolamento (UE) 2026/1744.
Un’amministrazione che li ha già inseriti nella DPIA non avrà fatto tutto il lavoro, perché l’AI Act impone anche la registrazione nella banca dati europea, la valutazione d’impatto sui diritti fondamentali e l’informazione agli interessati.
Avrà, però, fatto la parte più difficile, quella che non si compra.
Il mito della responsabilità diffusa
C’è infine un rischio sottile che le norme non nominano ma che chi lavora negli uffici conosce bene: la responsabilità che, passando da una persona a un sistema e da un sistema a un fornitore, finisce per non appartenere a nessuno.
Frasi del tipo “l’ha voluto il mio predecessore”, “il fornitore ci ha assicurato”, “il sistema è certificato” preparano una decisione senza responsabile.
L’articolo 14, comma 2, della legge 132/2025 taglia questo nodo stabilendo che la persona resta l’unica responsabile; e l’articolo 6 della legge 241/1990 dice da oltre trent’anni chi è quella persona: il responsabile del procedimento, che cura l’istruttoria e adotta il provvedimento finale o trasmette gli atti all’organo competente per l’adozione.
La DPIA deve tradurlo in un nome: accanto a ogni sistema che propone decisioni, il nome di chi ne risponde e di chi può sospenderlo. Se quel nome manca, il sistema non ha una supervisione umana, per quante firme raccolga.
Conclusioni
Il controllo umano è il punto in cui il diritto incontra l’organizzazione.
Questo controllo si può scrivere nelle norme, nei capitolati e nelle DPIA ma esiste solo se qualcuno ha la competenza per capire, il tempo per verificare e il potere per correggere.
Il tasso di rettifica è il modo più semplice per scoprire se queste condizioni ci sono: un numero, una volta l’anno, che vale più di molte pagine.
Zero non è il risultato di un sistema perfetto ma è il sintomo di un’organizzazione che ha smesso di guardare.






















