“Dario Amodei, amministratore delegato di Anthropic: «Non voglio che l’IA venga usata contro la nostra stessa gente»” così Dario Amodei intervistato dal #FinancialTimes parlando di #ClaudeMythos, delle ripercussioni della controversia con il Pentagono”.
Il Presidente degli Stati Uniti, si legge, “ha definito l’amministratore delegato di Anthropic e i cofondatori della sua azienda di intelligenza artificiale dei radicali «pazzi di sinistra». Di cosa si è macchiato Amodei? Di aver osato sostenere che i servizi di Anthropic non dovrebbero essere utilizzati dal Pentagono per la sorveglianza di massa sul territorio nazionale o per armi completamente autonome”.
Anche l’influente analista Ben Thompson, citato dal #FT ha criticato Amodei per aver gridato “al lupo, al lupo” sui rischi dell’IA. Ciononostante, Thompson ha appena incoronato Anthropic come l’attuale leader nella corsa all’IA per lo sviluppo di strumenti di codifica estremamente popolari e il rilascio del potente modello Claude Mythos” Anthropic ha appena raccolto 30 miliardi di dollari con una capitalizzazione di 380 miliardi e, secondo quanto riferito, si avvia verso una gigantesca quotazione in borsa entro la fine dell’anno.
Amodei riconosce che attualmente circolano due narrazioni pubbliche contrastanti sull’IA […] ma teme che, per il momento, la narrativa negativa sui rischi dell’IA sia in ascesa. Lui stesso ha illustrato molti dei pericoli dell’IA in un saggio pubblicato quest’anno intitolato “The Adolescence of Technology”. Ha anche alimentato i timori di sconvolgimenti economici avvertendo che l’IA potrebbe eliminare circa il 50% di tutti i lavori impiegatizi di livello base entro cinque anni, causando un’impennata della disoccupazione. Amodei insiste sul fatto che le aziende di IA devono affrontare lo sconvolgimento economico che la tecnologia causerà. Parte del motivo per cui la narrativa negativa è dominante, suggerisce, è che l’industria dell’IA non ha ancora pienamente realizzato i benefici. Finché ciò non accadrà, le persone metteranno comprensibilmente in discussione la narrativa positiva. “È solo propaganda? È solo qualcosa che non si realizzerà mai? Dobbiamo davvero renderlo realtà” afferma.
«Non dovremmo negare che il cambiamento ci sarà. Dobbiamo solo rendere l’effetto positivo così grande da avere uno strumento per affrontare il cambiamento», dice. Il suo mantra è che l’IA può solo «diffondersi alla velocità della fiducia»; e la fiducia al momento scarseggia. Questo mese, Anthropic ha scosso il mondo della sicurezza informatica con il rilascio, attentamente controllato, del suo modello Claude Mythos Preview. L’azienda afferma che Mythos ha individuato migliaia di cosiddette vulnerabilità informatiche «zero-day» — finora sconosciute — in ogni sistema operativo e browser web, alcune delle quali risalenti addirittura a 27 anni fa. Da allora, i funzionari statunitensi, tra gli altri, hanno avviato colloqui urgenti con le maggiori banche del Paese per garantire la sicurezza delle loro reti informatiche. Amodei descrive come Anthropic abbia lanciato Project Glasswing, una collaborazione con più di 40 organizzazioni, tra cui Amazon, Apple e Microsoft, per aiutare a individuare e correggere le vulnerabilità informatiche. Ma la stessa Anthropic è sotto esame per le sue pratiche di sicurezza dei dati a seguito della fuga di parte del suo codice. Amodei dice di sospettare che i modelli open-source e gli sviluppatori cinesi saranno in grado di replicare le capacità di Mythos entro sei-dodici mesi. Amodei auspica che i governi democratici sfruttino i vantaggi di questi potenti modelli di IA per contrastare i governi autoritari, come Russia e Cina, e sostenere gli alleati, tra cui Ucraina e Taiwan. «Siamo entusiasti che il governo degli Stati Uniti utilizzi questa tecnologia”, afferma, suggerendo che potrebbe aiutare a ‘dissolvere’ i regimi autoritari. “Ma non voglio che venga rivolta contro la nostra stessa gente o utilizzata per fini antidemocratici, sia da parte delle autocrazie che dei nostri stessi governi».
Amodei afferma di non poter commentare la causa legale che Anthropic ha attualmente intentato contro il Pentagono, contestando la sua classificazione dannosa come «rischio per la catena di approvvigionamento». In precedenza, Anthropic aveva sollevato obiezioni su alcuni degli usi dell’IA proposti dall’esercito, sostenendo che in una ristretta serie di casi avrebbero potuto «minare, anziché difendere, i valori democratici». Il Pentagono ha insistito sul fatto che tutte le aziende di IA dovrebbero accettare «tutti gli usi legittimi» della loro tecnologia. Alcuni commentatori hanno suggerito che, sviluppando Mythos, Anthropic abbia acquisito i poteri di uno Stato nazionale. L’azienda non dovrebbe quindi essere nazionalizzata, suggeriscono, per motivi di sicurezza? Amodei ribatte che crede fermamente nel principio statunitense dei controlli e degli equilibri. Sarebbe pericoloso, sostiene, che una singola azienda — o un singolo governo — controllasse questa tecnologia da sola, ed è per questo che Anthropic sta collaborando così strettamente con gli altri. Dice di credere fermamente che le aziende, la società civile e il governo debbano lavorare insieme per affrontare le nostre sfide tecnologiche. Dopo il rilascio di Mythos, Amodei è ancora più convinto della necessità di una solida regolamentazione dell’IA. Ipotizza che pericoli simili potrebbero presentarsi nel campo della biosicurezza entro i prossimi sei-dodici mesi. «Penso che dovremmo pensare a regolamentare l’IA come si regolamentano le auto e gli aerei», afferma. «Tutti si rendono conto che hanno un enorme valore economico, ma devono essere costruiti con attenzione. Se non sono costruiti bene, possono ucciderti». Anthropic ha donato 20 milioni di dollari al Super PAC Public First Action, che sta facendo pressione per ottenere norme di sicurezza più severe. Per Amodei, i principali sviluppatori di modelli dovrebbero collaborare per contribuire a creare un quadro di riferimento per la valutazione obbligatoria della tecnologia.”