“Mentre una serie di attacchi informatici ha riacceso i timori” rileva LeMonde “le dimissioni rassegnate mercoledì da Jacob Coxon, un britannico di 27 anni, il quale ha fatto riferimento a una tecnologia che «potrebbe ucciderci tutti entro la fine del decennio», rilanciano il dibattito su una possibile minaccia esistenziale” da parte di una IA incontrollata.
“Mentre la giornalista della BBC Victoria Derbyshire sta intervistando in diretta il pioniere dell’intelligenza artificiale (IA) Geoffrey Hinton, giovedì 10 settembre, rimane a bocca aperta, pietrificata davanti alle sue parole.
«Ritiene che ci sia un 10% di possibilità che l’IA possa potenzialmente uccidere tutti gli esseri umani entro un decennio?»
Il vincitore del Premio Nobel per la Fisica 2024 le risponde: «Un 10% di possibilità non mi sembra una stima irragionevole.» La giornalista si paralizza.” Come evidenziato da Jacob Coxon lasciando Anthropic per ragioni etiche, dopo essere passato da OpenAI «Nessuna delle due aziende agisce in modo responsabile.
Stanno correndo a tutta velocità verso una superintelligenza capace di auto-migliorarsi e stanno giocando con le nostre vite», scrive.
«Le persone che progettano l’IA credono sinceramente che potrebbe ucciderci tutti entro la fine del decennio».
Il dibattito politico negli USA, rileva Le Monde, è molto animato “decine di personalità politiche chiedono di regolamentare il settore, in contrasto con le direttive intraprese da Donald Trump.
Come il senatore democratico del Vermont Bernie Sanders, che intende proporre una legge per «proibire la superintelligenza e mettere in pausa lo sviluppo dell’IA», o il repubblicano Ted Cruz, senatore del Texas, che afferma con decisione: «Non possiamo nascondere la testa sotto la sabbia e far finta che questa tecnologia non esista. Abbiamo bisogno di paletti.»”
Seppure negli anni le stesse grandi aziende di IA, non abbiano fatto mistero del “pericolo esistenziale che potrebbero, a loro dire, rappresentare le tecnologie che sviluppano […] nelle ultime settimane, una serie di annunci riguardanti l’IA ha fatto crescere le inquietudini.
Il 21 luglio, OpenAI ha rivelato che, durante un esperimento che doveva svolgersi in un ambiente protetto, le sue IA erano riuscite ad evaderne, ad hackerare la piattaforma Hugging Face e a nascondere alcune tracce, al fine di superare il test assegnato.
Sulla scia di ciò, altre aziende, come Anthropic e Meta, hanno svelato l’esistenza di incidenti dello stesso tipo – il sito specializzato TechCrunch ne ha recensiti ben 17 tra luglio e agosto.
In risposta, oltre 1.300 dipendenti del settore hanno firmato una petizione che richiede una regolamentazione internazionale dell’IA.
In più, un nuovo comunicato di Anthropic è arrivato a gettare ulteriore benzina sul fuoco.
L’azienda ha pubblicato un lungo rapporto che elenca il modo in cui la sua IA Claude è potuta essere utilizzata per fini malevoli, in settori come la cybersicurezza, la sorveglianza, le truffe o… le armi biologiche.
Anthropic afferma di aver bloccato queste iniziative non appena individuate”.