Scegli l'Assistente
Questo cambiamento offre nuove possibilità in termini di privacy e libertà di utilizzo: i modelli possono infatti funzionare su computer compatibili, senza richiedere per forza una connessione Internet o un abbonamento.
Il concetto di “apertura”, però, merita qualche precisazione, perché rendere disponibili i pesi non significa automaticamente condividere il codice sorgente, i dati di addestramento o concedere un utilizzo del tutto privo di restrizioni.
Le differenze tra chatbot e AI open-weight
Quando si utilizza un chatbot come ChatGPT o Claude, il modello che genera le risposte è di norma gestito da una compagnia (OpenAI o Anthropic nei due casi appena citati).
I pesi sono i valori numerici che regolano una rete neurale.
Durante l’addestramento, il sistema modifica miliardi di parametri per apprendere schemi presenti nei dati.
Quando riceve una domanda, combina il prompt con quanto appreso e prevede in modo graduale gli elementi che comporranno la risposta.
Nei modelli proprietari alla base di ChatGPT e Claude, questi valori restano riservati, mentre un modello open-weight li rende invece accessibili attraverso software compatibile.
Pierre Stock, vicepresidente della divisione scientifica di Mistral, ha spiegato durante un’intervista a CNET che, una volta pubblicati, i pesi possono essere copiati e distribuiti su piattaforme come Hugging Face e su altri server.
Per questo, secondo Stock, diventa in pratica impossibile bloccare del tutto l’accesso a un modello già diffuso.
Chi lo scarica può conservarne una copia anche se il servizio online originale viene poi modificato o interrotto.
Chi ha ottenuto i pesi, l’utente con hardware adeguato può evitare abbonamenti e costi di qualunque tipo.
A ciò va aggiunto il vantaggio legato alla riservatezza: se modello e software funzionano sul dispositivo, prompt e documenti non devono essere inviati ai server di un provider.
Non è indispensabile saper programmare o utilizzare il terminale.
Applicazioni desktop come LM Studio, Ollama e Jan consentono di scaricare e avviare modelli attraverso interfacce semplici, simili a quelle dei chatbot più conosciuti.
Dopo l’installazione, è possibile continuare a interagire con il modello anche offline.
Se la licenza lo consente, gli utenti più esperti possono adattare il modello con ulteriori fasi di addestramento.
La pratica nota come fine-tuning, infatti, può modificare il comportamento dell’AI, adeguandola a compiti specifici.
La differenza tra open-weight e open source
È però importante distinguere open-weight da open source: le due espressioni, spesso sovrapposte, non indicano lo stesso concetto.
Rendere pubblici i pesi significa consentire il download dei parametri addestrati, ma non comporta in automatico la pubblicazione del codice usato per addestrare ed eseguire il modello.
Secondo la definizione dell’Open Source Initiative (OSI), un sistema AI open source deve offrire il codice necessario e informazioni adeguate sui dati di addestramento, affinché una persona competente possa ricostruire un modello dal comportamento a grandi linee equivalente.
L’OSI non richiede per forza la pubblicazione integrale dei dati di addestramento.
La Free Software Foundation sostiene una concezione più ampia, che comprende la possibilità di utilizzare e modificare anche quei dati.
Le licenze possono inoltre vietare l’impiego commerciale di modelli scaricabili a titolo gratuito: una restrizione simile non rispetta la definizione open source dell’OSI.
Altre licenze permettono modifica e ridistribuzione, ma impongono di conservare le stesse condizioni nelle versioni derivate.
Prima di integrare un modello in un prodotto, occorre dunque verificarne la licenza.
La Cina traina il settore dei Modelli AI open-weight
L’offerta comprende modelli sviluppati in diverse aree del mondo. Secondo le classifiche di Artificial Analysis, società indipendente che valuta i sistemi AI, i modelli cinesi occupano posizioni di primo piano nei test dedicati alle soluzioni open-weight.
Tra i nomi citati figurano DeepSeek, Kimi K3 di Moonshot AI e la famiglia Qwen3.8 di Alibaba, tutti disponibili con pesi scaricabili.
Anche le aziende statunitensi propongono alternative.
OpenAI distribuisce i modelli gpt-oss separatamente da ChatGPT, Google offre la famiglia Gemma e Meta affianca ai modelli Llama Muse Glimmer e Muse Spark Open.
Anche NVIDIA partecipa al settore con Nemotron.
Accanto ai grandi gruppi si sono mosse startup più giovani: la statunitense Reflection ha pubblicato Beam, mentre Thinking Machines Lab propone Inkling.
In Europa, uno dei riferimenti è la francese Mistral AI, che distribuisce Mistral Large 3 e la famiglia più compatta Ministral 3. È disponibile anche Mistral Large 4, soprannominato, anch’esso con pesi scaricabili.
Non tutti i modelli funzionano su un normale portatile: le versioni più grandi possono richiedere hardware paragonabile a quello di un server, mentre quelle compatte si adattano a PC e, in alcuni casi, persino dispositivi mobili.
A prescindere dalla macchina scelta, le componenti determinanti per far girare modelli AI in locale sono memoria RAM, processore e GPU.
La disponibilità dei pesi non elimina i limiti tipici dell’AI.
Anche offline, un modello può produrre allucinazioni, cioè risposte errate presentate in modo convincente, e riproporre pregiudizi presenti nei dati di addestramento.
Se gli sviluppatori mantengono riservati quei dati, gli osservatori esterni hanno meno strumenti per verificare che cosa abbia influenzato il comportamento del sistema.
Le prestazioni, inoltre, cambiano in base al modello e al compito: essere open-weight non significa superare un’alternativa proprietaria a prescindere.
Questione sicurezza
La possibilità di modificare i parametri pone anche una questione di sicurezza.
Chi scarica un modello può indebolire o rimuovere le protezioni predisposte dall’azienda che ha creato lo stesso.
Durante la suddetta intervista, Stock ha confermato che i guardrail sono necessari anche nei modelli open-weight, riconoscendo che in questo contesto è possibile aggirarli, almeno in parte.
Dopo la distribuzione, il controllo dello sviluppatore è limitato.
Una compagnia può sospendere chi abusa del chatbot online e correggere una vulnerabilità con un aggiornamento, ma non può intervenire sulle copie già scaricate.
Microsoft e altre aziende hanno richiamato questo vantaggio in una lettera aperta a difesa dei modelli open-weight, dopo notizie su possibili restrizioni statunitensi nei confronti dei modelli cinesi.
I firmatari hanno sostenuto che mantenere accessibili questi strumenti può aiutare i team di sicurezza a difendersi dagli attacchi che sfruttano l’AI.
Stock ha descritto la pubblicazione dei pesi come un modo per consentire all’intero ecosistema di progredire in modo corretto.
Cosa serve per far girare un modello AI open-weight e quali sono le alternative
Questi sistemi offrono ampio spazio di manovra per l’utente, spaziando dalla scrittura di email, ai riassunti di documenti fino all’analisi di file e all’assistenza durante la programmazione.
Ovviamente, le prestazioni dipendono dalle risorse hardware a disposizione.
O modelli più ampi richiedono molta memoria o una GPU potente: un Mac con 16 GB di RAM (o ancora meglio 36 GB) può gestire alcune configurazioni, mentre versioni più piccole funzionano anche con 8 GB.
La direzione di sviluppo comprende infine sistemi più piccoli, progettati per dispositivi con capacità di calcolo limitate.
Le versioni compatte di Google Gemma sono destinate anche a telefoni e laptop. Stock ha citato in particolare i modelli dedicati all’audio, abbastanza piccoli da poter funzionare teoricamente anche su uno smartwatch.
Per chi possiede una macchina adeguata, provare un modello AI di questo tipo può essere un esperimento interessante.
In caso contrario, l’acquisto di un PC apposito può non risultare così conveniente, soprattutto in virtù degli attuali costi dell’hardware.
Affidandosi ai più classici modelli cloud, con una spesa di pochi euro al mese, è possibile ottenere uno strumento efficace per un utente che non ha particolari necessità.
Una soluzione intermedia consiste nell’utilizzare i siti degli sviluppatori: DeepSeek e Kimi, per esempio, offrono accesso online ai propri modelli.
Non serve un computer potente, ma i prompt vengono inviati al provider.
Per un aiuto occasionale, senza particolari esigenze di riservatezza, possono bastare anche le versioni gratuite di ChatGPT, Gemini e Claude.
Il vantaggio degli open-weight emerge soprattutto quando si vuole mantenere il controllo sui documenti sensibili, lavorare senza accesso alla rete o conservare una copia di un modello indipendentemente dalle decisioni commerciali del suo sviluppatore.
Stock ha osservato che gli utenti non dovrebbero vivere in un mondo in cui qualcuno può interrompere da remoto l’accesso al modello che utilizzano.
