La lista dei danni provocati da motori generativi nelle mani di pochi colossi non regolamentati è più lunga e molto meno divertente del catalogo di Leporello, ma invece di mettere mano a rischi concreti per risolverli viene alimentata una narrazione che parla di estinzione dell’umanità: perché?
Eppure non mancherebbero le ragioni di urgenza per provvedere.
Ne elenco alcune: Clonazione vocale, falsificazione di documenti, phishing personalizzato, video manipolati e identità sintetiche che consentono di organizzare truffe credibili con costi e competenze relativamente bassi.
Attacchi informatici perpetrati grazie alla individuazione di vulnerabilità, alla generazione di codice malevolo, all’automazione di attacchi.
Parallelamente, l’integrazione dei modelli non sufficientemente protetti nei sistemi aziendali che introduce nuove vulnerabilità, come prompt injection, estrazione di dati, avvelenamento delle fonti e manipolazione degli agenti.
Infine la produzione praticamente illimitata di testi, immagini, audio e video sintetici che rende più economiche la propaganda, la falsa documentazione degli eventi, la manipolazione commerciale e le operazioni di influenza.
Se ne potrebbero aggiungere molte altre. Allora perché si parla di estinzione dell’umanità?
Presentare un modello come capace, in prospettiva, di minacciare l’umanità è una forma estrema di marketing.
Definire i guardrail normativi prima del collasso
Rafforza la percezione che la tecnologia sia prossima all’intelligenza generale, alimenta attenzione mediatica e aspettative finanziarie e rende più difficile per clienti e investitori ignorare il settore.
Un allarmismo diffuso rende politicamente accettabili licenze, requisiti di sicurezza e di compliance molto onerosi.
Spostare la responsabilità etica dei giganti tecnologici
I colossi possono assorbirli mentre startup e progetti open source no: il rischio esistenziale diventa così una barriera competitiva travestita.
Parlando di estinzione umana i problemi veri che ho elencato sopra diventano problemi di second’ordine.
Il futurismo catastrofico sposta l’attenzione dai rischi concreti alle ipotesi speculative, riducendo la pressione regolatoria.
Stimolare la resilienza sistemica e la cybersicurezza avanzata
In ogni caso se i problemi sono così gravi, gli unici che possono mettere mano sono i pochi soggetti che controllano la tecnologia. Solo loro posso essere la soluzione invece che il problema.
Infine se i risultati di una narrazione piena di iperboli arrivano più tardi o sono più modesti del previsto, il ritardo diventa prudenza invece che fallimento tecnico.
E se qualcosa va davvero male la narrativa apocalittica agisce da assicurazione reputazionale: eravamo stati noi a dirvelo.
