Sicurezza dell’IA: dai vecchi exploit della NSA ai rischi dell’arsenale digitale
Sotto la direzione di Keith Alexander, un generale tecnologo riconfermato da Obama alla guida della NSA e capo del US Cyber Command, l’Agenzia aveva accumulato un vasto arsenale di strumenti per sfruttare vulnerabilità informatiche a fini militari.
Dopo la scoperta che invece di segnalare le vulnerabilità al fine di rendere Internet più sicura la NSA le sfruttava per militarizzare la rete gli venne chiesta ragione di questa scelta.
In una intervista rilasciata all’Australian Financial Review, Alexander rispose alle critiche dicendo che “chiedere alla NSA di non cercare punti di debolezza nella tecnologia sarebbe un grave errore”.
Il precedente di WannaCry e la lezione degli Shadow Brokers
Il problema è che dopo la sua uscita, parte di quell’arsenale venne rubato e finì nelle mani di un gruppo di hackers: gli Shadow Brokers.
Tra gli exploit divulgati nel 2017 figurava EternalBlue, che venne utilizzato dal ransomware WannaCry per infettare milioni di computer.
Le organizzazioni contagiate in 150 paesi furono 200 mila. Tra queste il sistema sanitario inglese, le ferrovie tedesche e la polizia giapponese.
Dall’arsenale tradizionale all’IA agentica: il rischio del software “rogue”
Immaginiamo che quanto accaduto allora si ripeta oggi. Un agente avanzato non è soltanto un software: può disporre di credenziali, memoria, strumenti, capacità di scrivere codice e accesso ad altri sistemi.
Se venisse sottratto, compromesso o diventasse “rogue”, le sue capacità potrebbero essere replicate e impiegate su scala molto più vasta e molto più rapidamente di un arsenale tradizionale.
Il rischio, quindi, non è solo che un agente disobbedisca.
È che competenze costruite per finalità legittime sfuggano al controllo e diventino infrastruttura offensiva per chiunque riesca a impossessarsene.
