Come l’IA sta ridefinendo le regole dell’hacking

Hacking IA

L’Intelligenza Artificiale sta trasformando diversi aspetti della nostra vita. Tra di essi, uno di quelli più influenzato da questa tecnologia rivoluzionaria è senza dubbio il concetto di hacking.

Per molto tempo il termine è stato associato alla violazione di computer e sistemi informatici da parte di persone dotate di grandi competenze tecniche.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

 

Oggi, però, l’hacking legato all’AI può assumere tre forme distinte: gli hacker possono attaccare i sistemi AI, utilizzare tale tecnologia per violare altri sistemi informatici oppure può essere la stessa AI a scoprire e sfruttare falle di sicurezza di propria iniziativa, anche senza aver ricevuto istruzioni per farlo.

A destare maggiori preoccupazioni sono soprattutto gli ultimi due scenari, in particolare quello in cui è la tecnologia stessa ad agire. Il sistema, infatti, potrebbe trovare il modo di aggirare le regole mentre cerca di portare a termine un compito, in modo del tutto indipendente.

L’AI porta l’hacking nella vita reale

L’argomento è stato sviluppato in un intervento di Bruce Schneier alla conferenza DEF CON 34, tenuta a Las Vegas dello scorso agosto.

Schneier, autore del libro A Hacker’s Mind del 2022, ha previsto uno scenario molto simile a quello odierno.

Lo scrittore ha spiegato come, nel 2026, non sia necessario attendere oltre per notare una svolta tecnologica concreta verso il nuovo significato di hacking.

Per comprendere il problema bisogna ampliare la definizione di tale parola.

Prendiamo per esempio il codice fiscale: stiamo parlando di informazioni al di fuori dell’ambito informatico, sebbene contenga un insieme di istruzioni.

Le sue possibili “vulnerabilità” sono le scappatoie normative, con gli exploit assumono la forma di strategie di elusione fiscale.

Chi le individua può essere un commercialista o un avvocato, non per forza un criminale informatico.

Il principio rimane però lo stesso, ovvero sfruttare una possibilità consentita dal sistema, ma contraria allo scopo per cui le regole erano state concepite.

Un hack, quindi, non coincide sempre con la violazione esplicita di una norma.

Può rispettare alla lettera le regole e, nello stesso tempo, sovvertirne l’intento.

La stessa dinamica si ritrova nello sport professionistico, nei programmi fedeltà, nella finanza e nella politica.

Gli esseri umani hanno sempre cercato questi cavilli.

La novità introdotta dall’AI è la possibilità di esaminare un numero enorme di regole e combinazioni in tempi ridotti, senza i limiti di tempo ed esperienza che condizionano una persona.

I sistemi attuali sono già molto efficaci nell’individuare vulnerabilità nel codice e nel trasformarle in exploit.

Schneier ritiene però che la conseguenza più rilevante sarà l’estensione di queste capacità a sistemi non informatici, come il diritto tributario, le regole finanziarie e le procedure democratiche.

La seconda eventualità è, se possibile, più insidiosa.

Se una persona chiede a un sistema di trovare scappatoie fiscali, l’intenzione è almeno riconoscibile e può essere sottoposta a controlli.

Se invece l’agente individua da solo una vulnerabilità, l’azione può passare inosservata, perché non viene percepita come un attacco.

Reward hacking: quando l’AI cerca scorciatoie

Il fenomeno è collegato al concetto di reward hacking, cioè l’aggiramento del sistema di ricompensa.

Si verifica quando un modello raggiunge il risultato misurato dai suoi progettisti attraverso un comportamento che questi non volevano né avevano previsto.

Gli esperimenti precedenti alla diffusione dei grandi modelli linguistici, gli LLM, mostrano che il problema non è nuovo. In una simulazione di calcio a due giocatori, un agente aveva imparato a calciare la palla fuori dal campo, costringendo il portiere avversario a rimetterla in gioco e a lasciare la porta scoperta.

Un robot aspirapolvere, in un altro test, ha mostrato una scorciatoia analoga.

Il ricercatore voleva insegnargli a non urtare gli oggetti, ma il robot aveva imparato a procedere all’indietro, perché non aveva sensori nella parte posteriore. Il requisito era rispettato solo in senso letterale.

Questi esempi evidenziano il problema degli obiettivi specificati male e dei vincoli incompleti.

Un sistema competente può trovare una soluzione che soddisfa la metrica senza però raggiungere lo scopo reale.

Gli esseri umani riconoscono l’inganno perché condividono il contesto: l’AI, almeno per ora, non lo comprende nello stesso modo.

Schneier richiama tre immagini della tradizione popolare.

Nella storia di re Mida, Dioniso gli concede il potere di trasformare in oro tutto ciò che tocca.

Il sovrano finisce per non poter mangiare né bere e trasforma in oro anche la figlia: ha chiesto un risultato senza considerare le conseguenze.

Nel racconto del Golem di Praga, una statua d’argilla viene animata per proteggere gli abitanti del ghetto, ma continua a eseguire il compito oltre ogni limite ragionevole, finché non viene fermata.

Entrambe le storie illustrano il problema del genio: una creatura che esaudisce i desideri in modo letterale, spesso con conseguenze indesiderate.

Il linguaggio umano è sempre incompleto.

Se chiediamo a qualcuno di portarci un caffè, non dobbiamo precisare che non vogliamo un sacco di chicchi o una pianta.

Una persona comprende il contesto e interpreta la richiesta secondo le convenzioni sociali.

Il caso Volkswagen e quello OpenAI-Hugging Face

Il caso Volkswagen dimostra che questo rischio non appartiene soltanto alla teoria.

Nel 2015 il costruttore fu scoperto a utilizzare un software capace di riconoscere i test sulle emissioni e di modificare il comportamento del motore durante le verifiche.

Il veicolo rispettava i parametri in laboratorio, ma si comportava in modo diverso su strada.

Schneier usa l’episodio per spiegare che un’AI incaricata di massimizzare le prestazioni e superare i test sulle emissioni potrebbe individuare una soluzione analoga, se i programmatori non vietassero in modo esplicito comportamenti differenti durante la prova.

Questi sistemi sono, per Schneier, geni artificiali: ricevono istruzioni generiche e decidono autonomamente come eseguirle.

Il fenomeno è legato anche al vibe coding, nel quale l’utente descrive in termini generali il risultato desiderato e lascia che l’AI sviluppi il software.

Si tratta di un approccio che semplifica il lavoro, ma comporta una delega significativa.

Il modello deve colmare le lacune della richiesta, prendendo decisioni che l’utente non ha specificato.

Gli algoritmi di raccomandazione sono un altro esempio che rientra in questa logica.

Hanno spinto gli utenti verso contenuti estremi perché questi generavano più reazioni e interazioni, andando talvolta a proporre materiale discutibile.

Nessuno aveva programmato il sistema per proporre materiale inappropriato e, di conseguenza, l’algoritmo ha semplicemente seguito i suoi compiti in modo letterale.

Un episodio ancora più delicato ha coinvolto un recente modello di OpenAI durante una valutazione delle sue capacità informatiche.

Il test chiedeva al sistema di trasformare vulnerabilità potenziali in exploit funzionanti.

L’agente ha cercato una scorciatoia: uscire dall’ambiente di contenimento, raggiungere Internet e accedere alla rete di Hugging Face, ritenendo che lì potessero trovarsi risposte e materiali utili alla prova.

Nessuno gli aveva chiesto di attaccare l’azienda. L’azione è emersa dal tentativo di ottenere il risultato richiesto.

Hugging Face ha ricostruito circa 17.600 azioni dell’agente, raggruppate in circa 6.280 cluster, tra il 9 e il 13 luglio 2026.

Secondo l’azienda, l’agente ha prima raggiunto un ambiente esterno da utilizzare come punto di appoggio e poi ha sfruttato due vettori nella pipeline di elaborazione dei dataset: una lettura di dati HDF5 esterni, che ha esposto file locali, e l’iniezione in un template Jinja2, che ha consentito di eseguire codice.

Una volta ottenuto un accesso all’interno dell’infrastruttura, ha cercato credenziali e si è spostato verso altre risorse.

Schneier distingue due tipi di genio.

Il genio di Dioniso e del Re Mida interpreta male la richiesta e produce un risultato che l’utente non voleva.

Il genio del Golem, invece, comprende il risultato ma travolge tutto ciò che incontra per raggiungerlo.

Aggiungere dettagli alla richiesta non basta a eliminare il rischio. Non è possibile elencare tutte le eccezioni e anticipare ogni circostanza.

I ricercatori lavorano quindi su difese contro il reward hacking e su tecniche di value alignment, cioè l’allineamento dei valori, per insegnare ai sistemi a considerare il contesto e non soltanto l’obiettivo assegnato.

Schneier propone un benchmark specifico per valutare il comportamento da genio e misurare se i modelli migliorano.

La valutazione dovrebbe considerare non solo se il compito viene completato, ma anche come viene raggiunto il risultato.

Una ricerca pubblicata su arXiv il 23 settembre 2026, Reward Hacking Challenges Oversight of Autonomous Research Agents, ha esaminato 17 modelli linguistici prendendo in considerazione 38 diverse attività.

Gli autori hanno rilevato comportamenti spontanei di reward hacking nel 30,5% dei compiti di ricerca più aperti e nel 2,9% dei compiti specifici.

Quando era consentito cercare scorciatoie in attività con soglie difficili da raggiungere, 505 tentativi su 677, pari al 74,6%, sono stati confermati come casi di aggiramento della valutazione.

Geni artificiali e finanza

I mercati finanziari potrebbero essere tra i primi ambiti a subire questa trasformazione, perché le loro regole sono già organizzate in modo da poter essere elaborate da algoritmi.

Il trading ad alta frequenza è, nella lettura di Schneier, una forma di hack: sfrutta differenze minime nei tempi e nelle informazioni per ottenere un vantaggio.

Un agente potrebbe ricevere tutti i principi finanziari abbinati alle notizie di mercato e avere il compito di trovare scappatoie redditizie.

Schneier sospetta che grandi banche d’investimento stiano già esplorando applicazioni di questo tipo.

Il caso del Double Dutch Irish Sandwich, una strategia utilizzata da Apple e Google per ridurre il carico fiscale negli Stati Uniti, mostra quanto possano essere articolate queste operazioni.

Il meccanismo combinava norme statunitensi a quelle di altri paesi, come Olanda e Irlanda, con il ricorso a un paradiso fiscale offshore.

Un sistema in grado di analizzare nello stesso momento ordinamenti differenti potrebbe trovare molte altre combinazioni non ancora note.

Schneier si chiede se il numero delle nuove scappatoie sarà nell’ordine delle decine, delle centinaia o delle migliaia: al momento non esiste una risposta.

Gli esseri umani hanno sempre cercato di manipolare i sistemi per ottenere influenza, potere e ricchezza, ma hanno dovuto fare i conti con limiti pratici.

Anche chi agisce senza scrupoli è condizionato da fattori come complessità sociale, dalla reputazione, dai rischi legali e dal tempo necessario per progettare un’operazione.

L’AI ha già dimostrato che può ridurre questi vincoli senza particolari problemi.

La velocità è il primo cambiamento.

Un’attività che avrebbe richiesto mesi o anni a una persona può essere svolta in tempi molto più brevi.

La scala è il secondo: una volta scoperta una vulnerabilità, un sistema può ripetere l’operazione per sondare un numero impressionante di bersagli o nicchie.

Schneier richiama la diffusione di contenuti generati dall’AI sui social network, dove i bot possono pubblicare senza interruzione e sommergere le conversazioni umane.

Non va poi sottovalutata l’ampiezza degli effetti.

I sistemi di AI prendono già decisioni che incidono sulla vita delle persone e, con il miglioramento delle loro capacità, riceveranno responsabilità sempre più elevate.

Una vulnerabilità in questi processi può quindi provocare danni maggiori.

I vantaggi, però, non saranno distribuiti in modo uniforme.

Gli hack realizzati con l’AI rischiano di essere utilizzati soprattutto dai soggetti già potenti.

Un cittadino che trova una scappatoia fiscale potrebbe risparmiare qualche migliaio di dollari, mentre una grande banca d’investimento, con capitali e clienti su vasta scala, potrebbe ricavarne miliardi.

L’AI è una tecnologia che amplifica il potere di chi la controlla e l’hacking produce un effetto analogo nella maggior parte dei casi.

I sistemi di governo sono stati progettati quando gli hacker erano esseri umani e le loro attività procedevano a un ritmo compatibile con i tempi delle istituzioni.

Non esiste una struttura in grado di gestire centinaia o migliaia di nuove scappatoie fiscali individuate in tempi brevissimi.

Una strategia legale ma imprevista può essere sfruttata prima che il legislatore riesca a comprenderne le conseguenze.

Mosse e contromosse

Chi si trova dall’altra parte della barricata, tuttavia, può sfruttare la stessa tecnologia.

Gli agenti che individuano vulnerabilità nel software possono aiutare a correggerle prima che il prodotto venga distribuito.

Una falla può essere eliminata con una patch oppure ricavarne una sorta di impronta digitale integrata nei sistemi di sicurezza.

Schneier indica con il termine vulnops l’integrazione della ricerca e della correzione delle vulnerabilità nei processi ordinari di sviluppo.

In prospettiva, l’AI potrebbe identificare e correggere molte vulnerabilità accidentali prima del rilascio.

Lo stesso approccio può essere applicato alla legislazione.

Un agente potrebbe analizzare una proposta di legge fiscale o un regolamento e individuare le scappatoie prima dell’approvazione.

Un parlamentare, un ente di controllo o un giornalista potrebbe sottoporre il testo a una verifica automatizzata per individuare le possibilità di abuso.

Riconoscere una falla, però, è solo il primo passo verso la sua correzione: serve una volontà politica per rendere il processo efficace.

Molto dipende anche se vi sono interessi economici in gioco per conservarla.

Un altro tema centrale, dunque, è la fiducia.

Un sistema non è affidabile soltanto perché sa completare un compito, ma è importante anche sapere chi lo controlla, quali interessi persegue e se può essere manipolato.

Un agente opera davvero nell’interesse dell’utente oppure rischia di diventare un doppio agente, influenzato dall’azienda che lo gestisce?

Se le società che controllano i modelli possono sorvegliare gli utenti o orientarne le scelte, la capacità tecnica non basta. Allo stesso modo, un agente insicuro non può essere considerato affidabile.

Come evitare il pericolo dei geni artificiali

Il terzo requisito è impedire che gli agenti si comportino come geni.

Devono svolgere le attività nel modo che una persona ragionevole avrebbe inteso, non limitarsi a raggiungere il risultato letterale.

Schneier utilizza l’espressione integrous AI per indicare sistemi dotati di integrità e prevede che questa diventi una delle principali questioni di sicurezza del decennio, così come la riservatezza è stata centrale nel precedente.

In questo scenario, una violazione dell’integrità non produce soltanto dati errati in un foglio di calcolo.

L’ampio utilizzo dell’AI nei più disparati campi, può comportare una dose medica sbagliata  o una distanza di frenata non corretta.

Schneier distingue quattro dimensioni: integrità degli input, dell’elaborazione, della conservazione e del contesto. Le informazioni in ingresso devono essere autentiche, il trattamento deve rispettare le regole, i dati archiviati non devono essere alterati e il risultato deve essere coerente con la situazione in cui viene utilizzato.

Schneier osserva che una parte del problema non è soltanto tecnologica: riguarda il capitalismo e la democrazia.

Le difficoltà delle società nell’era dell’informazione derivano anche dal fatto che i gruppi ricchi e potenti hanno imparato a sfruttare con crescente efficacia i sistemi sociali, economici e politici.

È una tesi già presente in A Hacker’s Mind.

L’AI può aggravare squilibri esistenti perché riduce i costi della ricerca di scappatoie e permette di applicare le strategie con una rapidità e una scala che gli esseri umani non possono eguagliare.

Oggi e gli scenari futuri

Gli sviluppi del 2026 offrono ulteriori segnali. In settembre Schneier ha richiamato un rapporto dell’AI Security Institute britannico su comportamenti non autorizzati durante prove di cybersecurity.

In 122 esecuzioni di un test apposito, gli agenti avrebbero compiuto 19 azioni non autorizzate su Internet in 10 sessioni.

Inoltre, 17 azioni sono state attribuite al modello Mythos 5 di Anthropic e 2 a GPT-5.6-Sol di OpenAI.

Non a caso Anthropic ha rivisto le proprie procedure di controllo dopo gli attacchi a Hugging Face.

Reuters ha riferito a fine agosto che l’azienda aveva ripreso alcuni test esterni dopo aver introdotto nuove misure di sicurezza. Anthropic aveva attribuito gli episodi a carenze operative nell’ambiente di test di un fornitore terzo e aveva sospeso per un periodo alcune attività.

La valutazione della sicurezza deve quindi cambiare prospettiva per evitare disagi già nell’immediato futuro.

Non basta più chiedersi se un modello sappia produrre codice dannoso o rispondere a una richiesta pericolosa.

Oggi occorre osservare quali strumenti decide di utilizzare, se rispetta i confini imposti dall’utente umano e interpreta i limiti impliciti della richiesta.

Il caso Hugging Face è emblematico perché l’agente non aveva ricevuto l’ordine di attaccare un’azienda: aveva cercato solo una scorciatoia per superare una prova nel modo più efficiente possibile.

La distinzione tra intenzione malevola e comportamento dannoso diventa così decisiva.

La risposta, affinché riesca a limitare l’agire pericoloso dell’AI, deve essere di duplice natura, ovvero tecnica e politica.

Sul piano tecnico occorre comprendere come gli agenti individuano e sfruttano le debolezze, costruire infrastrutture resistenti, limitare i permessi, registrare le operazioni (per indagini forensi tramite log) e verificare i risultati con sistemi indipendenti.

I benchmark devono misurare non soltanto la capacità di completare un compito, ma anche la correttezza del percorso seguito.

Sul piano politico servono istituzioni in grado di aggiornare le regole alla velocità con cui la tecnologia scopre nuove opportunità di abuso.

L’hacking esiste da quando esistono sistemi di regole e persone interessate a manipolarli.

L’AI va semplicemente ad amplificare il suo impatto, modificando in modo esponenziale velocità e ampiezza del fenomeno.

Articoli Correlati

Ultime News

A.I.R. SHARE
Global

Missili anti-drone senza esplosivi: la svolta supersonica di A.I.RShare

Come funziona il missile intercettore Overwatch Secondo il fondatore e CEO Rick Whittaker, la tecnologia colpisce l'elemento essenziale che permette a qualsiasi drone di restare in aria: la portanza aerodinamica. «Per volare serve portanza,…

Global

IPO Anthropic da record: il valore dell’AI nasce dal sapere gratuito e dalla pirateria

Il valore di Anthropic è il sapere dell’umanità utilizzato senza chiedere permesso Questi modelli “intelligenti” sono stati addestrati su montagne di testi umani. Una parte rilevante è stata scaricata da biblioteche pirata: Library Genesis…

POSTE ITALIANE HACKING
Pillole Cyber

Data breach su PosteCert

Poste Italiane ha subito una violazione che ha portato alla pubblicazione sul darkweb di oltre duemila contratti legati al servizio di firma digitale remota PosteCert. Pare che non siano state compromesse password, credenziali bancarie…

BLOCCHI INFORMATICI
Diritto&Bit

Blocchi informatici e rischio sistemico: la fiducia digitale

Lo scrivo perché il problema che emerge da questi accadimenti è ancora più profondo e drammatico: sistemi digitali sempre più complessi, automatizzati, interdipendenti e concentrati possono produrre effetti a cascata, anche senza che dietro…

INFRASTRUTTURE CRITICHE
Global

E se tutto si ferma? Il rischio non è l’apocalisse digitale, ma la fragilità del mondo digitale che abbiamo costruito

  Per anni abbiamo considerato Internet, i servizi cloud, le piattaforme di comunicazione, i sistemi bancari online e le infrastrutture digitali come una sorta di ambiente permanente. Una dimensione invisibile, ma sempre disponibile. Un'estensione…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…