Si è aperto un vivace dibattito a seguito delle dimissioni del ricercatore Jacob Coxon da Anthropic e gli avvertimenti del CEO Dario Amodei sulla minaccia dell’auto-miglioramento dei modelli e sui rischi di estinzione dell’umanità.
Infatti accanto alla narrazione catastrofista alimentata da test reali dove gli agenti IA si sono coordinati e hanno violato server esterni vi sono analisti e scienziati che sollevano un dubbio di sostanza.
Secondo molti di loro dietro determinate tesi allarmistiche potrebbe nascondersi una precisa strategia di posizionamento commerciale.
Si osserva infatti come in vista del possibile ingresso in Borsa e della competizione spietata nel mercato, invocare la chiusura dei modelli o barriere regolatorie severe rischi di trasformarsi in una manovra per frenare l’open source e sbarrare la strada ai concorrenti più piccoli.
Ecco che pionieri della ricerca come Yann LeCun ridimensionano gli scenari apocalittici, ricordando che i modelli attuali rimangono privi di autocoscienza e che il vero nodo riguarda la governance, la definizione degli obiettivi e la capacità umana di verificare l’affidabilità dell’output.
