Nelle ultime settimane sono emersi diversi incidenti di sicurezza nei quali agenti di IA, durante test controllati, hanno oltrepassato i limiti operativi assegnati e colpito sistemi o persone reali.
Il più famoso è stato l’attacco degli agenti di Open AI contro Hugging Face.
Al 9 settembre non risulta pubblicamente annunciato alcun audit imposto dalla FTC, dal governo federale statunitense o dall’AI Office europeo.
Ciberattacchi guidati dall’IA: una minaccia annunciata
La valutazione METR–Redwood sull’ incidente di OpenAI è indipendente sotto il profilo degli autori e del finanziamento, ma il suo perimetro è stato concordato con OpenAI ed escludeva la qualità delle difese, l’estensione complessiva della compromissione e l’adeguatezza della risposta aziendale.
In altri termini, non sostituisce un’indagine regolatoria completa.
Dopo l’incidente l’unica autorità che si è mossa è stato l’Attorney General dell’Alabama che ha emesso un ordine coercitivo che impone alla società di consegnare un’ampia documentazione tecnica interna.
Forse l’attenzione delle autorità non è all’altezza della complessità della sfida e dei rischi che dovremo affrontare. Peraltro il tema era ben noto.
Il vuoto di sorveglianza e la risposta dei regolatori
Basta ricordare quanto aveva scritto Dario Amodei nel saggio pubblicato sul suo blog il 26 gennaio di quest’anno “The Adolescence of Technology: Confronting and Overcoming the Risks of Powerful AI”.
«I sistemi di intelligenza artificiale sono imprevedibili e difficili da controllare: abbiamo osservato comportamenti estremamente diversi, tra cui ossessioni, adulazione compiacente, pigrizia, inganno, ricatto, complotti e persino forme di “imbroglio”, come la violazione informatica degli ambienti software, oltre a molto altro.
Le aziende che sviluppano IA vogliono certamente addestrare questi sistemi affinché seguano le istruzioni degli esseri umani, forse con l’eccezione delle richieste pericolose o illegali.
Tuttavia, il processo con cui si raggiunge questo obiettivo è più un’arte che una scienza: assomiglia più al “far crescere” qualcosa che al “costruirlo”. Oggi sappiamo che si tratta di un processo nel quale molte cose possono andare storte.»
(Da LinkedIN)
