Promemoria trapelato: il CEO di Anthropic afferma che la società continuerà a investire negli Stati del Golfo dopo tutto

Secondo un messaggio Slack che il CEO Dario Amodei ha inviato al personale domenica mattina, ottenuto da WIRED, Anthropic sta pianificando di cercare investimenti dagli Emirati Arabi Uniti e dal Qatar.

Valutando i pro e i contro, Amodei ha ammesso nella sua nota che accettare denaro dai leader mediorientali avrebbe probabilmente arricchito i "dittatori". "Questo è un vero svantaggio e non ne sono entusiasta", ha scritto. "Purtroppo, penso che 'Nessuna persona cattiva dovrebbe mai trarre vantaggio dal nostro successo' sia un principio piuttosto difficile da seguire per gestire un'azienda".

Il messaggio arriva mentre le aziende di intelligenza artificiale si affrettano ad assicurarsi gli ingenti capitali necessari per addestrare e sviluppare modelli di intelligenza artificiale di frontiera. A gennaio, OpenAI ha annunciato un progetto di data center da 500 miliardi di dollari chiamato Stargate, con il sostegno finanziario di MGX, una società di investimento statale emiratina. Quattro mesi dopo, l'azienda ha annunciato l'intenzione di costruire un data center ad Abu Dhabi, nell'ambito di un'iniziativa volta ad aiutare i governi stranieri a "sviluppare capacità di intelligenza artificiale sovrana in coordinamento con gli Stati Uniti".

"Come azienda americana all'avanguardia nello sviluppo dell'intelligenza artificiale, abbiamo sempre creduto che la catena di fornitura per lo sviluppo di modelli di intelligenza artificiale di frontiera dovesse essere localizzata sul suolo americano per mantenere la leadership americana", ha dichiarato Christopher Nulty, portavoce di Anthropic. "Come ha già affermato Dario, crediamo fermamente nella condivisione dei vantaggi dell'intelligenza artificiale e nel servire commercialmente il Medio Oriente e altre regioni del mondo, in linea con la nostra Politica di Utilizzo".

A maggio, il presidente Donald Trump ha visitato gli Emirati Arabi Uniti e l'Arabia Saudita nell'ambito di un viaggio di quattro giorni incentrato sugli investimenti economici. Un gruppo di leader del settore tecnologico, tra cui Elon Musk, Sam Altman e il capo di Nvidia Jensen Huang, si è unito a lui per un incontro con il principe ereditario dell'Arabia Saudita. La leadership di Anthropic era notevolmente assente.

Nel suo promemoria, Amodei ha riconosciuto che la decisione di perseguire investimenti da parte di regimi autoritari avrebbe portato ad accuse di ipocrisia. In un saggio intitolato "Macchine di Grazia Amorevole", Amodei ha scritto: "Le democrazie devono essere in grado di stabilire le condizioni in base alle quali un'intelligenza artificiale potente viene introdotta nel mondo, sia per evitare di essere sopraffatte dai regimi autoritari, sia per prevenire violazioni dei diritti umani all'interno dei paesi autoritari".

Nel 2024, Anthropic decise di non accettare denaro dall'Arabia Saudita, citando preoccupazioni per la sicurezza nazionale, secondo quanto riportato da CNBC . La notizia arrivò mentre FTX, l'exchange di criptovalute fallito, entrava in procedura fallimentare e la sua partecipazione di quasi l'8% in Anthropic veniva messa in vendita. Alla fine, la maggior parte di quelle azioni andò ad ATIC Third International Investment, una società degli Emirati Arabi Uniti. All'epoca, la partecipazione valeva circa 500 milioni di dollari.

Ora, sembra che Anthropic sia pronta ad accettare fondi dagli Stati del Golfo, sebbene l'azienda non abbia specificato se abbia modificato la sua posizione in particolare nei confronti dell'Arabia Saudita. "C'è una quantità di capitale davvero enorme in Medio Oriente, facilmente 100 miliardi di dollari o più", ha scritto Amodei nella nota. "Se vogliamo rimanere alla frontiera, otteniamo un grandissimo vantaggio dall'accesso a questo capitale. Senza di esso, è sostanzialmente più difficile rimanere alla frontiera".

Secondo la nota, perseguendo un "investimento puramente finanziario e di portata limitata nei paesi del Golfo", la società spera di evitare i rischi associati al consentire agli investitori esterni di ottenere una "leva" sulla società.

"La base della nostra opposizione ai grandi centri di addestramento in Medio Oriente o alla spedizione di H2O in Cina è che la 'catena di fornitura' dell'intelligenza artificiale è pericolosa da consegnare a governi autoritari: poiché l'intelligenza artificiale è probabilmente la tecnologia più potente al mondo, questi governi possono usarla per ottenere il predominio militare o per esercitare influenza sui paesi democratici", ha scritto Amodei nel promemoria, riferendosi ai chip Nvidia.

Tuttavia, l'amministratore delegato ha ammesso che gli investitori potrebbero ottenere un "soft power" attraverso la promessa di finanziamenti futuri. "La promessa implicita di investire in round futuri può creare una situazione in cui acquisiscono un certo soft power, rendendo un po' più difficile resistere a queste cose in futuro. In effetti, temo che ottenere il massimo importo possibile di investimenti possa essere difficile senza accettare alcune di queste altre cose", scrive Amodei. "Ma penso che la risposta giusta a questo sia semplicemente vedere quanto possiamo ottenere senza accettare queste cose (che credo siano probabilmente ancora molti miliardi), e poi resistere se ce lo chiedono".

In una sezione intitolata "Erosione degli standard", Amodei osserva che il motivo per cui Anthropic "ha insistito a gran voce per non consentire i grandi data center in Medio Oriente" era perché "senza un'autorità centrale che li blocca, si innesca una corsa al ribasso in cui le aziende ottengono molti vantaggi addentrandosi sempre di più nel Medio Oriente".

"Purtroppo, non essendo riusciti a prevenire questa dinamica a livello collettivo, ora ci ritroviamo bloccati come azienda individuale, e la posizione mediana tra le altre aziende sembra essere 'esternalizzare i nostri più grandi progetti di formazione da 5 GW agli Emirati Arabi Uniti/Arabia Saudita va bene'", ha affermato l'amministratore delegato, probabilmente riferendosi all'accordo degli Stati Uniti per la costruzione di un nuovo data center di intelligenza artificiale negli Emirati Arabi Uniti, alimentato da 5 gigawatt di elettricità. "Questo ci pone in una posizione di svantaggio significativo e dobbiamo cercare modi per compensare parte di questo svantaggio pur rimanendo meno discutibili. Vorrei davvero che non fossimo in questa situazione, ma ci siamo".

In una sezione intitolata "Mal di testa nelle comunicazioni", l'amministratore delegato ha riconosciuto che accettare investimenti dagli Stati del Golfo avrebbe probabilmente suscitato critiche pubbliche. "I media / Twitter / il mondo esterno" sono "sempre alla ricerca dell'ipocrisia, ma anche molto stupidi e quindi hanno una scarsa comprensione delle questioni sostanziali", ha scritto Amodei. Ha aggiunto: "È perfettamente coerente sostenere una politica del tipo 'A nessuno è permesso fare x', ma poi, se quella politica fallisce e tutti gli altri fanno x, fare x noi stessi con riluttanza".

"Siamo anche interessati a servire la regione a livello commerciale, il che credo sia un aspetto assolutamente positivo, a patto che non costruiamo data center lì e che applichiamo la nostra [politica di utilizzo accettabile]", ha aggiunto. "In effetti, potrebbe avere importanti benefici per il mondo, tra cui il miglioramento della salute umana, il sostegno allo sviluppo economico, ecc."

Ha concluso: "Come molte decisioni, anche questa ha i suoi lati negativi, ma crediamo che nel complesso sia la scelta giusta".