Sicurezza modelli AI open-weight: l’allarme dell’ASD australiano

AI-Locale

Scaricare un modello di Intelligenza Artificiale ed eseguirlo sui server della propria organizzazione può sembrare la scelta più sicura, con i dati che restano all’interno dell’infrastruttura aziendale e nessun fornitore esterno abbia la facoltà di controllare direttamente il sistema. Questo approccio, tuttavia, non cancella i rischi, ma trasferisce all’organizzazione una parte rilevante delle responsabilità di protezione.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

Questo è l’avvertimento lanciato il 5 novembre 2026 dall’Australian Signals Directorate (ASD), attraverso l’Australian Cyber Security Centre (ACSC), in due nuove pubblicazioni dedicate ai modelli open-weight.

I documenti in questione richiamano l’attenzione su aspetti come la manomissione dei file e la manipolazione delle misure di sicurezza post-distribuzione.

Il primo documento, Open-weight AI models: Opportunities and cyber security risks, illustra la natura di questi modelli, i vantaggi e i rischi informatici legati alla pubblicazione dei loro pesi

Il secondo, Selecting, deploying and operating open-weight AI models securely, fornisce indicazioni pratiche su aspetti come governance, installazione, monitoraggio, manutenzione e risposta agli incidenti.

Tre categorie dei modelli AI eseguibili in locale

L’ASD suddivide in tre categorie distinte i modelli AI locali.

I modelli definiti chiusi, come Mythos e Opus, sono disponibili tramite un servizio: i pesi rimangono al fornitore, che gestisce le protezioni e monitora i potenziali abusi.

I già citati modelli open-weight, come Kimi K3, GLM5.3 e la famiglia Nemotron 3, rendono invece scaricabili i parametri appresi durante l’addestramento.

In genere, questi non includono dati di training e codice, ma possono essere eseguiti e sottoposti a fine-tuning così come  ridistribuiti secondo le condizioni della licenza.

Infine, vi sono i modelli open-source, tra cui la famiglia Olmo 3, che rendono disponibili anche dati, codice e procedure di addestramento, consentendo verifiche e riproduzioni più complete.

L’ASD osserva che le versioni realmente open-source sono delle eccezioni sul mercato odierno.

Secondo l’agenzia, alcuni modelli open-weight di recente rilascio si avvicinano ai migliori sistemi chiusi in determinati benchmark, anche se non tutti i risultati dichiarati dai produttori sono stati verificati in modo indipendente.

Queste capacità possono essere sfruttate per condurre attacchi informatici sempre più complessi, automatizzando operazioni offensive e individuando punti deboli nei sistemi e nelle infrastrutture digitali, con potenziali conseguenze anche per la sicurezza della catena di fornitura del software.

L’hosting autonomo può mantenere le informazioni sensibili in un ambiente locale, contribuendo a ridurre la dipendenza da fornitori esterni oltre a supportare attività di cyber security anche in reti disconnesse.

In cambio, l’organizzazione deve occuparsi di diversi aspetti come sicurezza, monitoraggio e gestione degli incidenti.

I rischi legati alle AI locali

Il primo rischio riguarda la provenienza.

Un modello può essere scaricato dallo sviluppatore originale oppure da terzi che lo hanno sottoposto a fine-tuning o modificato in altro modo.

La documentazione potrebbe non descrivere in modo accurato queste operazioni, rendendo difficile ricostruire eventuali limiti, vulnerabilità e condizioni di licenza.

Per l’ASD, un’organizzazione non dovrebbe adottare un modello se non è in grado di verificarne la provenienza con estrema precisione.

Esiste poi la possibilità che i file siano stati manomessi lungo la catena di fornitura. Fattori come pesi, framework, librerie e dataset possono contenere vulnerabilità o modifiche malevole.

Con alcuni formati e processi di caricamento possono persino eseguire codice. Pesi alterati o dati di addestramento manipolati possono introdurre backdoor e altri elementi indesiderati.

Anche il fine-tuning con dati aziendali comporta conseguenze.

Il modello potrebbe memorizzare informazioni riservate, rendendole poi accessibili a malintenzionati.

L’ASD consiglia quindi di valutare la sensibilità dei dati prima dell’addestramento, cifrare i file prima e durante il trasferimento oltre a limitare gli accessi e verificare che il modello non divulghi informazioni provenienti dal dataset.

Un altro punto debole è rappresentato dai sistemi di salvaguardia incorporati nel modello, i cosiddetti guardrail.

Una volta pubblicati i pesi, lo sviluppatore originario non controlla più tutte le copie e le modifiche realizzate dagli utilizzatori. Fine-tuning e altre trasformazioni possono indebolire o rimuovere le protezioni, con successivi interventi che possono modificare anche l’allineamento e il comportamento del modello.

Le potenziali conseguenze di uno scenario di questo tipo possono includere il rischio di prompt injection, ovvero tecniche che manipolano gli input per aggirare le istruzioni e le protezioni dell’AI.

Il pericolo cresce nei sistemi agentici, capaci di svolgere azioni complesse come l’esecuzione di codice.

Come evitare il peggio

Per ridurre questi rischi, l’ASD invita a procurarsi modelli e componenti da fonti attendibili, verificando hash e firme digitali disponibili, controllando dipendenze e file per individuare malware e manomissioni.

I nuovi modelli dovrebbero essere caricati inizialmente in un ambiente sandbox, preferendo formati che non possano contenere codice eseguibile.

Il codice personalizzato deve essere revisionato e avviato in un ambiente isolato.

Prima dell’impiego operativo sono inoltre necessari test indipendenti sull’affidabilità, oltre a un’analisi di come il modello interagisce con strumenti connessi.

La responsabilità prosegue anche dopo l’installazione.

In questo senso, le pratiche consigliate includono la costante registrazione di accessi ed eventi.

Una routine di questo genere, infatti, può individuare per tempo comportamenti anomali che permettono di rilevare criticità in tempi ristretti.

I piani di risposta devono prevedere la revoca delle credenziali come priorità, così come ripristino di versioni precedenti e la conservazione dei log.

Chi si occupa del modello AI, inoltre, deve creare un contesto in cui sia possibile sostituire il modello in caso di necessità.

L’ASD consiglia anche di affiancare al modello controlli esterni e imporre l’approvazione umana per azioni ad alto rischio o irreversibili.

Il quadro coincide con quanto osservato dall’International AI Safety Report 2026.

Il documento, pubblicato a febbraio 2026, si concentra sull’analisi dei modelli open-weight, sottolineando come dopo il rilascio è impossibile per chi li pubblica tracciare eventuali modifiche, così come forzare eventuali aggiornamenti.

 

Articoli Correlati

Ultime News

Cybersecurity-Open-Source
Global

Cybersecurity e IA: vulnerabilità, open source e crisi 2026

Furti di criptovalute e non solo: un ottobre di fuoco per la cybersecurity Nelle ultime settimane, i casi riportati dalle grandi testate giornalistiche hanno preoccupato tanto gli addetti ai lavori quanto i comuni utenti.…

CYBERSICUREZZA
Global

Allarmi bomba via e-mail: che cosa possono dirci davvero i controlli informatici

  Come analista della comunicazione strategica, considero la cybersecurity una componente essenziale dell’analisi. Un messaggio può produrre conseguenze concrete sulle decisioni, sulla continuità dei servizi e sulla fiducia nelle istituzioni. La sua pericolosità non…

Global

Sicurezza Infrastrutture Critiche: dai supermercati alle reti vitali

Va detto che la normativa europea si è già mossa in questa direzione, e in modo significativo. La direttiva NIS2 impone oggi alle entità ritenute critiche ed essenziali un vero e proprio regime di…

DPIA Intelligenza Artificiale
Protezione Dati

Dalla fotografia al film. Perché l’IA trasforma la DPIA e riscrive il concetto stesso di rischio

Un metodo che resta valido Conviene partire da un punto fermo. L'articolo 35, paragrafo 7, del GDPR impone alla valutazione d'impatto quattro contenuti minimi: a) una descrizione sistematica dei trattamenti e delle loro finalità;…

Diritto&Bit

La vera natura delle Linee Guida di Agid sull’IA nelle PA: fonte normativa o strumento di indirizzo orientativo?

Ho sfogliato con interesse le nuove Linee Guida AgID per l’adozione dell’Intelligenza Artificiale nella Pubblica Amministrazione. La prima impressione è positiva. Si tratta di un documento ampio, senz'altro attuale e ben costruito che si…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

SPAZIO
Spazio

Feudi orbitali: chi detta le regole della guerra nello spazio?

L'orbita non attende: la vulnerabilità dei servizi spaziali Nelle prime ore del 24 febbraio 2022, in concomitanza con l’invasione russa dell’Ucraina, un attacco cibernetico alla rete KA-SAT di Viasat interruppe servizi di connettività in…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…