AI e rischi biologici: l’allarme di Yao Shinyu di Tencent

TENCENT IA

L’evoluzione dell’Intelligenza Artificiale sta per varcare una nuova e delicata soglia di sicurezza.

Secondo Yao Shunyu, Chief AI Scientist di Tencent, i modelli di IA saranno presto in grado di generare minacce concrete non solo nella cybersecurity, ma anche nel campo della biologia.

Sommario

Riassumi con l'IA
Scegli l'Assistente

Scegli un assistente AI

ChatGPTClaudePerplexityGrok

Durante un recente evento scientifico tenutosi a Hong Kong, il dirigente del colosso tech cinese ha lanciato un avviso chiaro: le capacità dell’IA stanno crescendo a un ritmo tale da richiedere massima cautela, soprattutto da parte di chi sviluppa e rilascia modelli open source.

“Le capacità dei modelli di IA nel settore cyber e, a breve, in quello biologico raggiungerne una soglia in cui sarà concretamente possibile causare danni reali.” — Yao Shunyu, Chief AI Scientist di Tencent

Rischi biologici vs. Cyber minacce: la nuova sfida dell’IA

Secondo Yao, i rischi legati alla biologia potrebbero rivelarsi molto più complessi da gestire rispetto a quelli informatici.

Se da un lato il mondo della sicurezza digitale ha sviluppato protocolli di risposta rapida, le minacce biologiche amplificate dall’IA presentano variabili meno controllabili.

Il dibattito si concentra in particolare sul rilascio di modelli ad accesso libero:

  • Il dilemma dei modelli Open Source: Rendere i pesi dei modelli liberamente scaricabili e modificabili da chiunque aumenta il rischio che soggetti malintenzionati rimuovano i filtri di sicurezza.

  • Open vs. Closed AI: Aziende statunitensi come Anthropic sostengono l’esigenza di mantenere chiusi i modelli più avanzati. Yao propone un approccio bilanciato: un mix di modelli aperti e chiusi può aiutare i difensori a sviluppare contromisure efficaci.

Il caso Hy4: il nuovo modello di Tencent addestrato alla sicurezza

L’allarme di Yao arriva a pochi giorni dal lancio di Hy4, il nuovo modello flagship di Tencent.

Per prevenire usi impropri, l’azienda ha adottato strategie di addestramento mirate per ridurre i rischi di abuso:

  1. Esclusione dei dati offensivi: Tencent ha rimosso dal dataset di addestramento del modello le informazioni relative allo sfruttamento delle vulnerabilità software (exploit).

  2. Focus sulla difesa: Hy4 è stato istruito prevalentemente su dati dedicati alla difesa informatica.

  3. Filtri sulla biologia: Sebbene Hy4 possieda solide nozioni di base in biologia, i test interni hanno dimostrato che le sue capacità nel progettare esperimenti complessi sono volutamente limitate rispetto ad altri modelli leader di mercato.

Secondo le classifiche di Artificial Analysis, Hy4 si posiziona come il secondo miglior modello sviluppato in Cina.

Tencent ha annunciato che rilascerà a breve i pesi del modello e un report dettagliato sui test di sicurezza effettuati.

Cosa significa per il futuro della sicurezza digitale e biologica?

Il passaggio dalle minacce informatiche a quelle biologiche segna un punto di svolta nel dibattito sulla governance dell’Intelligenza Artificiale.

Con esperti del calibro di Yao Shunyu — con un passato in OpenAI prima di approdare in Tencent — la necessità di stabilire standard di sicurezza globali per l’IA diventa una priorità non più rinviabile per governi e aziende tecnologiche.

Articoli Correlati

Ultime News

A.I.R. SHARE
Global

Missili anti-drone senza esplosivi: la svolta supersonica di A.I.RShare

Come funziona il missile intercettore Overwatch Secondo il fondatore e CEO Rick Whittaker, la tecnologia colpisce l'elemento essenziale che permette a qualsiasi drone di restare in aria: la portanza aerodinamica. «Per volare serve portanza,…

Global

IPO Anthropic da record: il valore dell’AI nasce dal sapere gratuito e dalla pirateria

Il valore di Anthropic è il sapere dell’umanità utilizzato senza chiedere permesso Questi modelli “intelligenti” sono stati addestrati su montagne di testi umani. Una parte rilevante è stata scaricata da biblioteche pirata: Library Genesis…

POSTE ITALIANE HACKING
Pillole Cyber

Data breach su PosteCert

Poste Italiane ha subito una violazione che ha portato alla pubblicazione sul darkweb di oltre duemila contratti legati al servizio di firma digitale remota PosteCert. Pare che non siano state compromesse password, credenziali bancarie…

BLOCCHI INFORMATICI
Diritto&Bit

Blocchi informatici e rischio sistemico: la fiducia digitale

Lo scrivo perché il problema che emerge da questi accadimenti è ancora più profondo e drammatico: sistemi digitali sempre più complessi, automatizzati, interdipendenti e concentrati possono produrre effetti a cascata, anche senza che dietro…

INFRASTRUTTURE CRITICHE
Global

E se tutto si ferma? Il rischio non è l’apocalisse digitale, ma la fragilità del mondo digitale che abbiamo costruito

  Per anni abbiamo considerato Internet, i servizi cloud, le piattaforme di comunicazione, i sistemi bancari online e le infrastrutture digitali come una sorta di ambiente permanente. Una dimensione invisibile, ma sempre disponibile. Un'estensione…

Cyberwar

ransomware-low-cost
Cyberwar

Ransomware low cost: un attacco con l’AI costa meno di 4 dollari

La testata giornalistica, specializzata in cybersecurity, ha portato alla luce una complessa infrastruttura criminale, quasi totalmente automatizzata grazie all’utilizzo dell’Intelligenza Artificiale. Questa, a quanto pare, è gestita da un affiliato di The Gentlemen, ovvero…

MARINA COREA DEL SUD IA
Cyberwar

La Marina sudcoreana conduce il primo test di sminamento con l’IA

Il test congiunto con Hanwha Systems a Busan L'esercitazione, guidata congiuntamente dall'azienda della difesa sudcoreana Hanwha Systems, si è svolta presso una base navale nella città portuale sudorientale di Busan. L'operazione ha coinvolto il…

Droni-guerra
Cyberwar

Il Futuro della guerra: perché i droni non vinceranno i conflitti da soli

Nel contesto bellico odierno, oltre all’intelligenza artificiale, uno dei fattori più determinanti sembrano essere i droni. Se molti, più o meno esperti, vedono in questa tecnologia il futuro della guerra, esiste chi va controcorrente,…

Spazio

Spazio

Via della Seta spaziale: la Cina costruirà per l’Oman una rete di 20 satelliti con intelligenza artificiale

Oltre i satelliti: formazione, laboratori e trasferimento tecnologico Il pacchetto non si limita alla fornitura dei dispositivi orbitali, ma punta a costruire un vero e proprio ecosistema spaziale locale. L'intesa comprende infatti: La realizzazione…

Satelliti - Starlink
Spazio

Satelliti spia e difesa missilistica: cosa c’è davvero dentro Starshield di SpaceX

Oltre 11.000 satelliti Starlink in orbita, contratti militari da diversi miliardi di dollari e una rete riservata alla sicurezza nazionale degli Stati Uniti. SpaceX non si limita più a fornire connessioni Internet dallo spazio…

SATELLITI TIM
Spazio

Satelliti e TLC, quattro big europei si muovono insieme: qual è la strategia di TIM?

Deutsche Telekom, Orange, Telefónica e Vodafone si muovono insieme sulla nuova frontiera delle telecomunicazioni: il collegamento diretto tra satelliti e dispositivi mobili. La lettera d’intenti annunciata il 19 ottobre 2026 prevede di esplorare una…

Cavi Sottomarini

Drone-Svezia
Underwater

Saab: test in mare per il nuovo drone sottomarino LUUV

Il prototipo, realizzato in collaborazione con la Swedish Defence Materiel Administration (FMV) e le Forze armate svedesi, ha superato con successo le prime prove in mare, raggiungendo un traguardo importante per il programma. A…

Underwater

Un siluro Mk 48 lanciato da un drone: il test storico di AUKUS

AUKUS: il sottomarino autonomo britannico XV Excalibur lancia un siluro americano Mk 48 Negli scorsi giorni, diversi siti che si occupano di tecnologia hanno riportato l’attenzione sul test condotto al British Underwater Test &…

Robot-subacquei
Underwater

Russia prepara 1.000 robot subacquei per ispezioni e riparazioni navali

Il progetto nasce soprattutto dall’esigenza di ridurre i tempi necessari per intervenire sulle infrastrutture offshore dopo un incidente. L’unità ingegneristica di USC afferma che la mobilitazione di una nave convenzionale può richiedere da 4…