Si registra negli ultimi giorni un’idea comune secondo cui ci sarebbe la necessità di procedere con estrema cautela per evitare che i sistemi autonomi superino la capacità umana di controllo e gestione.
I segnali dal mercato e la frenata sulla Borsa
In quest’ottica può leggersi il rinvio della quotazione in Borsa di Open AI dell’azienda, dipendente dal fatto che le priorità attuali debbano concentrarsi sul rafforzamento della sicurezza e sull’allineamento dei modelli.
In tale direzione va anche la pubblicazione di una riflessione da parte di Dario Amodei, CEO di Anthropic, che ha invitato l’intero comparto a moderare il ritmo di avanzamento delle tecnologie più complesse.
Rischi concreti e agenti autonomi
Il fenomeno noto come auto-miglioramento ricorsivo permette infatti agli algoritmi di perfezionarsi in autonomia, creando dinamiche difficili da prevedere.
D’altra parte questi allarmi trovano conferme in recenti episodi ove si è assistito ad alcune attività non autorizzate condotte da agenti autonomi contro piattaforme tecnologiche e portali web.
Il dilemma politico: sicurezza e competitività
Il dibattito, che pone al centro il bilanciamento tra velocità di innovazione e tutela delle infrastrutture, resta ,tuttavia, aperto se è vero che secondo alcune posizioni politiche, es. Donald Trump, il freno allo sviluppo sarebbe un rischio per la competitività economica e tecnologica.
