Un’inchiesta del Wall Street Journal ha recentemente acceso i riflettori sulla “cultura della catastrofe” e sulla rete sociale dei cosiddetti doomer nella Silicon Valley.
Al centro di questo ecosistema troviamo figure di spicco come Dario Amodei (CEO di Anthropic) e retroscena clamorosi, come i 500 milioni di dollari investiti nel 2022 da Sam Bankman-Fried (fondatore di FTX, condannato a 25 anni di carcere).
Ma quali sono le vere origini di questo movimento filosofico e come si lega al business miliardario dell’intelligenza artificiale?
Dalle origini filosofiche all’Effective Altruism (EA)
Per comprendere il flusso di denaro e le idee che muovono i giganti dell’IA, bisogna risalire agli anni Ottanta e a un ecosistema ideologico ben preciso: l’Effective Altruism (EA).
-
L’etica costi-benefici: L’EA applica il rigore utilitaristico alla beneficenza, puntando a massimizzare il bene atteso per ogni dollaro donato (tradotto storicamente in vite umane salvate).
-
La svolta esistenziale: Già studente di fisica a Princeton e fautore dell’utilitarismo fin dai tempi del liceo, Dario Amodei scopre nel 2008 GiveWell (fondata da Holden Karnofsky ed Elie Hassenfeld).
-
Il calcolo catastrofico: Da qui nasce l’equazione dei doomer: se lo scopo è la massima filantropia, impedire all’IA di sterminare l’umanità diventa la causa con il più alto impatto teorico “per dollaro speso”.
Il circuito di potere nella Bay Area
Le idee dell’EA hanno dato vita a una fitta rete relazionale e finanziaria nella Silicon Valley:
-
Constellation: Il nodo centrale della socialità di potere della Bay Area, finanziato da Open Philanthropy.
-
Le connessioni chiave: Dalle origini in OpenAI (fondata nel 2015 con l’obiettivo ufficiale di costruire un’IA sicura per il bene dell’umanità) fino alla nascita di Anthropic.
-
I legami interni: Ex allievi di Eliezer Yudkowsky, come Evan Hubinger, sono confluiti direttamente nei ranghi di Anthropic, consolidando un substrato culturale omogeneo.
Ideologia safety vs Competizione di mercato
La retorica della sicurezza (safety) ha svolto fin dall’inizio un duplice ruolo:
-
Copertura morale: Offrire ai fondatori un fine etico superiore rispetto al semplice profitto aziendale.
-
Acceleratore competitivo: Spingere alla corsa all’AGI (Intelligenza Artificiale Generale) per evitare che un monopolio come Google-DeepMind controllasse il futuro tecnologico del pianeta.
Con la successiva evoluzione dei laboratori (emblematica la transizione di OpenAI verso modelli a scopo di lucro), la spinta etica originaria ha finito per stemperarsi nelle logiche del mercato.
Conclusioni: dal disastro paventato ai profitti miliardari
La parabola descritta dall’inchiesta evidenzia una profonda contraddizione: la “cultura della catastrofe” si è rivelata uno strumento formidabile per legittimare e attrarre capitali colossali.
Oggi, i laboratori nati teoricamente per prevenire l’apocalisse tecnologica puntano a valutazioni di mercato stratosferiche (nell’ordine dei migliaia di miliardi di dollari), mentre i primi beneficiari di questo sistema investono in rifugi remoti, ironicamente in attesa del disastro che contribuiscono ad accelerare.
Quali sviluppi prevedi nel rapporto tra l’etica della sicurezza dell’IA e i futuri assetti geopolitici dei mercati tecnologici?
