Scegli l'Assistente
Questo è l’avvertimento lanciato il 5 novembre 2026 dall’Australian Signals Directorate (ASD), attraverso l’Australian Cyber Security Centre (ACSC), in due nuove pubblicazioni dedicate ai modelli open-weight.
I documenti in questione richiamano l’attenzione su aspetti come la manomissione dei file e la manipolazione delle misure di sicurezza post-distribuzione.
Il primo documento, Open-weight AI models: Opportunities and cyber security risks, illustra la natura di questi modelli, i vantaggi e i rischi informatici legati alla pubblicazione dei loro pesi
Il secondo, Selecting, deploying and operating open-weight AI models securely, fornisce indicazioni pratiche su aspetti come governance, installazione, monitoraggio, manutenzione e risposta agli incidenti.
Tre categorie dei modelli AI eseguibili in locale
L’ASD suddivide in tre categorie distinte i modelli AI locali.
I modelli definiti chiusi, come Mythos e Opus, sono disponibili tramite un servizio: i pesi rimangono al fornitore, che gestisce le protezioni e monitora i potenziali abusi.
I già citati modelli open-weight, come Kimi K3, GLM5.3 e la famiglia Nemotron 3, rendono invece scaricabili i parametri appresi durante l’addestramento.
In genere, questi non includono dati di training e codice, ma possono essere eseguiti e sottoposti a fine-tuning così come ridistribuiti secondo le condizioni della licenza.
Infine, vi sono i modelli open-source, tra cui la famiglia Olmo 3, che rendono disponibili anche dati, codice e procedure di addestramento, consentendo verifiche e riproduzioni più complete.
L’ASD osserva che le versioni realmente open-source sono delle eccezioni sul mercato odierno.
Secondo l’agenzia, alcuni modelli open-weight di recente rilascio si avvicinano ai migliori sistemi chiusi in determinati benchmark, anche se non tutti i risultati dichiarati dai produttori sono stati verificati in modo indipendente.
Queste capacità possono essere sfruttate per condurre attacchi informatici sempre più complessi, automatizzando operazioni offensive e individuando punti deboli nei sistemi e nelle infrastrutture digitali, con potenziali conseguenze anche per la sicurezza della catena di fornitura del software.
L’hosting autonomo può mantenere le informazioni sensibili in un ambiente locale, contribuendo a ridurre la dipendenza da fornitori esterni oltre a supportare attività di cyber security anche in reti disconnesse.
In cambio, l’organizzazione deve occuparsi di diversi aspetti come sicurezza, monitoraggio e gestione degli incidenti.
I rischi legati alle AI locali
Il primo rischio riguarda la provenienza.
Un modello può essere scaricato dallo sviluppatore originale oppure da terzi che lo hanno sottoposto a fine-tuning o modificato in altro modo.
La documentazione potrebbe non descrivere in modo accurato queste operazioni, rendendo difficile ricostruire eventuali limiti, vulnerabilità e condizioni di licenza.
Per l’ASD, un’organizzazione non dovrebbe adottare un modello se non è in grado di verificarne la provenienza con estrema precisione.
Esiste poi la possibilità che i file siano stati manomessi lungo la catena di fornitura. Fattori come pesi, framework, librerie e dataset possono contenere vulnerabilità o modifiche malevole.
Con alcuni formati e processi di caricamento possono persino eseguire codice. Pesi alterati o dati di addestramento manipolati possono introdurre backdoor e altri elementi indesiderati.
Anche il fine-tuning con dati aziendali comporta conseguenze.
Il modello potrebbe memorizzare informazioni riservate, rendendole poi accessibili a malintenzionati.
L’ASD consiglia quindi di valutare la sensibilità dei dati prima dell’addestramento, cifrare i file prima e durante il trasferimento oltre a limitare gli accessi e verificare che il modello non divulghi informazioni provenienti dal dataset.
Un altro punto debole è rappresentato dai sistemi di salvaguardia incorporati nel modello, i cosiddetti guardrail.
Una volta pubblicati i pesi, lo sviluppatore originario non controlla più tutte le copie e le modifiche realizzate dagli utilizzatori. Fine-tuning e altre trasformazioni possono indebolire o rimuovere le protezioni, con successivi interventi che possono modificare anche l’allineamento e il comportamento del modello.
Le potenziali conseguenze di uno scenario di questo tipo possono includere il rischio di prompt injection, ovvero tecniche che manipolano gli input per aggirare le istruzioni e le protezioni dell’AI.
Il pericolo cresce nei sistemi agentici, capaci di svolgere azioni complesse come l’esecuzione di codice.
Come evitare il peggio
Per ridurre questi rischi, l’ASD invita a procurarsi modelli e componenti da fonti attendibili, verificando hash e firme digitali disponibili, controllando dipendenze e file per individuare malware e manomissioni.
I nuovi modelli dovrebbero essere caricati inizialmente in un ambiente sandbox, preferendo formati che non possano contenere codice eseguibile.
Il codice personalizzato deve essere revisionato e avviato in un ambiente isolato.
Prima dell’impiego operativo sono inoltre necessari test indipendenti sull’affidabilità, oltre a un’analisi di come il modello interagisce con strumenti connessi.
La responsabilità prosegue anche dopo l’installazione.
In questo senso, le pratiche consigliate includono la costante registrazione di accessi ed eventi.
Una routine di questo genere, infatti, può individuare per tempo comportamenti anomali che permettono di rilevare criticità in tempi ristretti.
I piani di risposta devono prevedere la revoca delle credenziali come priorità, così come ripristino di versioni precedenti e la conservazione dei log.
Chi si occupa del modello AI, inoltre, deve creare un contesto in cui sia possibile sostituire il modello in caso di necessità.
L’ASD consiglia anche di affiancare al modello controlli esterni e imporre l’approvazione umana per azioni ad alto rischio o irreversibili.
Il quadro coincide con quanto osservato dall’International AI Safety Report 2026.
Il documento, pubblicato a febbraio 2026, si concentra sull’analisi dei modelli open-weight, sottolineando come dopo il rilascio è impossibile per chi li pubblica tracciare eventuali modifiche, così come forzare eventuali aggiornamenti.






















