L’affaire Palermo: l’IA in tribunale e l’allarme ingiustificato
In queste ore leggo diversi commenti allarmati sulla sentenza della Corte di giustizia tributaria di Palermo in cui, per una svista, sono rimaste nel testo alcune tipiche espressioni generate da un sistema di IA.
Il caso ha immediatamente riacceso il dibattito sull’utilizzo dell’intelligenza artificiale da parte dei giudici.
Grave? Senza alcun dubbio.
Ma qualcuno, ad esempio, si è chiesto se quella sentenza fosse giuridicamente corretta nel merito?
Perché il problema non è che un magistrato utilizzi uno strumento di IA.
Il problema nasce quando lo utilizza senza adeguata consapevolezza, senza controllarne gli output e, soprattutto, senza possedere una sufficiente cultura giuridica applicata concretamente all’informatica.
A essere sinceri, in un sistema giudiziario che soffre da anni di carenze organizzative, di personale e di strumenti, sarebbe persino singolare che non si utilizzassero tecnologie capaci di supportare attività di studio, analisi e organizzazione delle informazioni.
Il vero tema è un altro. Da oltre vent’anni il diritto applicato all’informatica continua a ragionare prevalentemente in termini di documenti, quando ormai viviamo in ecosistemi digitali governati dai dati.
Oltre il “Point & Click”: il ritardo culturale del diritto digitale
E da oltre vent’anni continuiamo a discutere del valore giuridico del semplice point & click.
E oggi, quando si parla di IA, il dibattito resta quasi sempre fermo agli output.
Io credo invece che dovremmo preoccuparci degli input.
Come sono custoditi i dati giudiziari?
Come vengono gestiti i fascicoli processuali digitali?
Quali garanzie esistono sulla qualità, sull’integrità, sulla provenienza e sulla conservazione delle informazioni che alimentano questi sistemi?
La giustizia italiana ha una vera governance digitale?
La giustizia italiana dispone di modelli organizzativi realmente maturi per la gestione e la conservazione digitale del proprio patrimonio informativo?
Il Ministero della Giustizia, con i suoi dipartimenti centrali e periferici, dispone di modelli di conservazione realmente affidabili e governati da figure responsabili del coordinamento e del controllo?
Perché, se non governiamo correttamente dati, archivi e processi, il problema non sarà l’intelligenza artificiale.
Sarà piuttosto l’intelligenza umana che continua a utilizzarla senza aver costruito le fondamenta necessarie.
La vera fragilità, infatti, non nasce dall’algoritmo che genera una frase, ma dall’organizzazione che non sa governare il proprio patrimonio informativo.
Verso una nuova consapevolezza istituzionale
E allora forse il caso Palermo non dovrebbe aprire soltanto un dibattito sulle sentenze scritte con l’IA.
Dovrebbe aprire, finalmente, un dibattito sulla qualità della governance digitale della nostra giustizia.
La domanda che dobbiamo porci oggi non è chi scrive una sentenza, ma con quali dati, con quali garanzie e sotto quale responsabilità viene costruita.
E, soprattutto, chi risponde quando quei dati, quelle garanzie e quelle responsabilità non vengono adeguatamente governati?
