Si leggono sempre più pronunce giudiziali che riguardano Avvocati che “si fidano troppo” di modelli di intelligenza artificiale generativa e vengono (giustamente) sanzionati per responsabilità aggravata ai sensi dell’articolo 96 del codice di procedura civile.
Gli strumenti “intelligenti” che abbiamo a disposizione sono e possono essere utili, se ne percepiamo i limiti e soprattutto se siamo padroni della materia su cui li stiamo interrogando. Poiché sono basati su calcoli statistici possono incorrere in errori e generare discriminazioni in modo sistematico (e ovviamente la minimizzazione di tali inevitabili rischi dipende dalla qualità della base dati su cui modellano le loro azioni in nostro favore).
I responsabili siamo sempre noi nel momento in cui li utilizziamo e dobbiamo, quindi, farlo con attenzione.
Stessa cosa vale per le PA nel momento in cui ci si interroga su opportunità e limiti di utilizzo di strumenti sempre più automatizzati nei procedimenti amministrativi.
Vecchie domande partite ex lege con l’art. 3 comma 2 del D. Lgs. 39/1993 (cd. firma a stampa per gli atti amministrativi automatizzati) e che hanno dato vita a una vivace giurisprudenza del Consiglio di Stato che ne aveva inizialmente consentito l’utilizzo solo per gli atti non discrezionali (cioè, agli atti cd. vincolati).
Oggi la giurisprudenza sull’art. 3 del decreto legislativo 39 si è “aggiornata” con l’avvento degli algoritmi “intelligenti“, stabilendo tre pilastri fondamentali:
Riserva di umanità (Human-in-the-loop)
Anche nei procedimenti automatizzati, deve esserci sempre un responsabile umano in grado di controllare, validare o smentire la decisione della macchina. Non è ammessa una delega totale all’algoritmo che escluda il giudizio umano.
Trasparenza algoritmica
L’IA non può essere una “black box” e il cittadino ha sempre diritto di conoscere i criteri e la logica alla base dell’algoritmo (il codice sorgente così come i criteri che hanno determinato l’algoritmo a prendere una decisione sono così equiparati a un documento amministrativo accessibile).
Non discriminazione algoritmica
La PA deve garantire sempre che l’algoritmo non produca effetti discriminatori basati sui dati di input.
Principi che sostanzialmente richiama anche il GDPR con l’art. 22.
C’è estrema necessità di ulteriori specifiche normative?
No, io credo semplicemente che ci sia bisogno di ricordarsi di essere giuristi ed esseri umani, recuperando i principi fondamentali del diritto, reinterpretandoli cum grano salis per questo cambiamento.
Ci sono molti corsi e convegni oggi sull’IA a cui vengo invitato a partecipare, ma – come non l’ho fatto anni fa per la firma digitale o la PEC – non spiegherò mai come si usa uno strumento di IA, al massimo lo lascio fare ad altri.
Semplicemente inviterò a comprenderne opportunità e limiti in punto di diritto.
