Il data poisoning, cioè l’inquinamento dei dati finalizzato a manipolare le nostre percezioni cognitive ha un nuovo alleato: le intelligenze artificiali generative.
Siamo venuti a sapere che lo Stato Israele ha ingaggiato con un contratto milionario Brad Parscale – già stratega digitale di Donald Trump – per orientare le risposte di chatbot come ChatGPT, Claude e Gemini sul conflitto in Medio Oriente. L’obiettivo palesato è stato quello di contrastare la “delegittimazione” in atto ai danni di Israele. Ma gli effetti concreti sono più viscidi e, cioè, agire non sulle individuali persuasioni, ma direttamente sull’infrastruttura cognitiva attraverso la quale milioni di persone si formano un’opinione. Ormai gli Stati (tutti, in realtà, non solo Israele) e i pochi attori che posseggono risorse adeguate hanno compreso perfettamente che la prossima frontiera della guerra dell’informazione non passerà solo dai social, ma dai modelli linguistici che sempre più utenti consultano come fonte primaria di informazione, quindi, come veri e propri oracoli che non hanno bisogno di verifiche accurate su ciò che restituiscono in loro favore.
Il problema è proprio qui. L’abitudine alla verifica delle fonti si sta rapidamente consumando. L’utente medio privilegia la risposta più fluida e “autorevole” che appare in cima, senza chiedersi da dove provengano i dati, chi li abbia prodotti e per quale scopo. E c’è chi ne approfitta per orientare pensieri e dominare le nostre percezioni. Perché il caso di Israele non è isolato, anzi. È sufficiente ricordare la rete Pravda russa (milioni di articoli ottimizzati proprio per i crawler delle AI) e ovviamente Cina e USA seguono a ruota.
C’è un’emergenza in corso. E la politica in realtà sonnecchia, immersa in uno storytelling generico e confuso su questi temi legati alle intelligenze artificiali. E la recente intervista di Walter Veltroni a Claude di cui si discute in questi giorni ne è la prova.
Adoravo Walter Veltroni ai tempi dell’Università, quando era direttore dell’Unità (1 e 2, come si ricorderà chi è nato prima degli anni ‘80). Un grande comunicatore, con un intuito non comune e senz’altro solide basi culturali. Ma quell’ intervista a Claude è stata un’operazione fragile e confusionaria. Ha affascinato, senza spiegare, generando il fraintendimento che l’IA sia un’entità pensante, quindi, finendo per facilitare proprio le pericolose operazioni di data poisoning, come quelle perpetrate dallo Stato “democratico” di Israele.
L’intervista è suadente e affascina, come è normale che sia, proprio perché chi interagisce con il sistema è un raffinato intellettuale. E il sistema di IA di Claude si plasma perfettamente nel dialogo, affabulando e dialogando con ossequiosa accondiscendenza. In questo è perfetto.
Del resto, l’IA siamo Noi.
Non dimentichiamocelo.
