Sempre con più insistenza vi è chi paragona la corsa alle armi atomiche alla a competizione sui modelli avanzati di Intelligenza Artificiale.
Che i ricercatori si sentano ormai una sorta di moderni sviluppatori del Progetto Manhattan- programma di ricerca militare segreto guidato dagli Stati Uniti che ha portato alla creazione della prima bomba atomica, lo testimoniano le proposte di disarmo tecnologico bilaterale avanzate dai leader delle Big Tech, fino all’ipotesi di fondare un’Agenzia Internazionale di controllo sul modello di quella per l’energia atomica.
Gli esperti non sono tanto spaventati dalla potenza computazionale attuale, quanto dall’automiglioramento ricorsivo poiché l’algoritmo acquisisce la capacità di perfezionare il proprio codice e aggiornare la propria architettura in autonomia, senza la necessità di alcun intervento o controllo umano.
Noi eravamo abituati a ragionare in campo nucleare ove la deterrenza e la tracciabilità delle materie prime consentono un controllo fisico sugli arsenali.
Oggi, nel mondo immateriale del software, la gestione dei rischi è enormemente più complessa.
Le tradizionali clausole di salvaguardia appaiono insufficienti in un terreno ove si registra l’impossibilità di stabilire un confine certo tra ricerca civile e applicazione critica.
Da questo punto di vista è agevole rilevare come senza un’effettiva tracciabilità degli algoritmi e una chiara attribuzione della responsabilità penale sui processi decisionali automatizzati.
Il rischio reale non è l’apocalisse bellica, ma l’incapacità per il nostro ordinamento di governare i danni provocati da strumenti privi di controllo umano.
