Il caso brasiliano (Tribunale del Lavoro di Pará) è emblematico e, al tempo stesso, preoccupante. Due colleghe hanno inserito in una memoria difensiva un comando occulto volto a influenzare un sistema di intelligenza artificiale eventualmente utilizzato dal magistrato.
Risultato?
Il comando è stato scovato dal giudice, è stata comminata una sanzione pecuniaria significativa alle autrici del “prompt” (10% del valore della causa), quindi il tutto è stato trasmesso agli organi disciplinari.
Si tratta senz’altro di un precedente che dovrebbe far riflettere l’intera comunità giuridica.
Si è trattato di un tentativo piuttosto maldestro. Non un sofisticato data poisoning, ma una forma rudimentale di prompt injection[1] destinata a essere scoperta rapidamente da chiunque abbia un minimo di dimestichezza con questi strumenti.
Un atto quindi che, lungi dal manipolare efficacemente il decisore, ha solo esposto le autrici a conseguenze deontologiche e professionali pesanti.
Tuttavia, sarebbe ingenuo liquidare la vicenda come un episodio isolato e scellerato. Questo caso, infatti, accende un faro su un rischio reale e destinato a crescere: la tentazione di inquinare, manipolare o “guidare” i sistemi di IA utilizzati nell’amministrazione della giustizia.
Che si tratti di prompt injection più evolute, di inserimenti mirati in basi documentali utilizzate da sistemi di IA o, in prospettiva, di vere e proprie operazioni di data poisoning, il rischio esiste. E la vulnerabilità pure.
Non un espediente creativo, ma una violazione dei principi del processo
Tentare di manipolare il processo attraverso l’IA non è ovviamente un “espediente creativo”: è un illecito grave, una violazione dei doveri di lealtà, probità e correttezza che permeano la deontologia forense.
Le avvocate brasiliane ne stanno già sperimentando le conseguenze. In Italia e in Europa, condotte analoghe esporrebbero a sanzioni disciplinari, responsabilità civili e, potenzialmente, penali.
La giustizia, del resto, non può correre il rischio di essere oggetto di un sabotaggio tecnologico.
Come irrobustire i sistemi IA in ambito giudiziario
La risposta non può essere solo repressiva. Deve essere proattiva e sistemica:
– Architetture tecniche robuste (dalla sanitizzazione degli input alla rilevazione di tentativi di manipolazione, dalla separazione tra dati di addestramento e documenti dei singoli procedimenti fino all’uso di modelli adeguatamente protetti)
– Catena di custodia e verifiche crittografiche (per garantire integrità e tracciabilità dei dati processati)
– Controllo umano rigoroso. L’IA deve rimanere, quindi, uno strumento ausiliario e il giudice e i suoi uffici devono mantenere una supervisione attiva e consapevole, verificando sempre le elaborazioni automatiche.
Non deve essere consentita alcuna “delega cieca” alla macchina.
– Formazione obbligatoria. Magistrati, cancellieri e avvocati hanno bisogno di una preparazione specifica sull’uso etico e consapevole degli strumenti IA, sui loro limiti e sulle tecniche di manipolazione.
L’uso (consapevole) dell’IA nell’attività giudiziale
I sistemi di intelligenza artificiale possono rappresentare un aiuto prezioso per smaltire arretrati, sintetizzare atti complessi, ricercare giurisprudenza e supportare decisioni motivate in processi sempre più ingolfati.
Ma questo beneficio si trasforma in rischio se non è preceduto da formazione adeguata, da protocolli condivisi e da una cultura della responsabilità che non scarichi sulla tecnologia ciò che resta ineludibilmente umano: il giudizio.
La tecnologia non è totalmente neutra. Può amplificare tanto l’efficienza quanto le tentazioni manipolatorie.
Sta alla comunità giuridica – quindi, avvocati, magistrati, legislatore – alzare il livello di guardia e costruire un quadro di regole e prassi che renda questi tentativi non solo sanzionabili, ma tecnicamente inefficaci.
La giustizia del futuro sarà senz’altro anche digitale. Ma deve restare, prima di tutto, Giustizia.
[1] Il comando di “prompt injection” indiretto è stato effettuato tramite un testo invisibile (bianco su sfondo bianco) all’interno di un documento legale.
