Scegli l'Assistente
Durante un recente evento scientifico tenutosi a Hong Kong, il dirigente del colosso tech cinese ha lanciato un avviso chiaro: le capacità dell’IA stanno crescendo a un ritmo tale da richiedere massima cautela, soprattutto da parte di chi sviluppa e rilascia modelli open source.
“Le capacità dei modelli di IA nel settore cyber e, a breve, in quello biologico raggiungerne una soglia in cui sarà concretamente possibile causare danni reali.” — Yao Shunyu, Chief AI Scientist di Tencent
Rischi biologici vs. Cyber minacce: la nuova sfida dell’IA
Secondo Yao, i rischi legati alla biologia potrebbero rivelarsi molto più complessi da gestire rispetto a quelli informatici.
Se da un lato il mondo della sicurezza digitale ha sviluppato protocolli di risposta rapida, le minacce biologiche amplificate dall’IA presentano variabili meno controllabili.
Il dibattito si concentra in particolare sul rilascio di modelli ad accesso libero:
-
Il dilemma dei modelli Open Source: Rendere i pesi dei modelli liberamente scaricabili e modificabili da chiunque aumenta il rischio che soggetti malintenzionati rimuovano i filtri di sicurezza.
-
Open vs. Closed AI: Aziende statunitensi come Anthropic sostengono l’esigenza di mantenere chiusi i modelli più avanzati. Yao propone un approccio bilanciato: un mix di modelli aperti e chiusi può aiutare i difensori a sviluppare contromisure efficaci.
Il caso Hy4: il nuovo modello di Tencent addestrato alla sicurezza
L’allarme di Yao arriva a pochi giorni dal lancio di Hy4, il nuovo modello flagship di Tencent.
Per prevenire usi impropri, l’azienda ha adottato strategie di addestramento mirate per ridurre i rischi di abuso:
-
Esclusione dei dati offensivi: Tencent ha rimosso dal dataset di addestramento del modello le informazioni relative allo sfruttamento delle vulnerabilità software (exploit).
-
Focus sulla difesa: Hy4 è stato istruito prevalentemente su dati dedicati alla difesa informatica.
-
Filtri sulla biologia: Sebbene Hy4 possieda solide nozioni di base in biologia, i test interni hanno dimostrato che le sue capacità nel progettare esperimenti complessi sono volutamente limitate rispetto ad altri modelli leader di mercato.
Secondo le classifiche di Artificial Analysis, Hy4 si posiziona come il secondo miglior modello sviluppato in Cina.
Tencent ha annunciato che rilascerà a breve i pesi del modello e un report dettagliato sui test di sicurezza effettuati.
Cosa significa per il futuro della sicurezza digitale e biologica?
Il passaggio dalle minacce informatiche a quelle biologiche segna un punto di svolta nel dibattito sulla governance dell’Intelligenza Artificiale.
Con esperti del calibro di Yao Shunyu — con un passato in OpenAI prima di approdare in Tencent — la necessità di stabilire standard di sicurezza globali per l’IA diventa una priorità non più rinviabile per governi e aziende tecnologiche.






















