Gelekt memo: CEO van Antropische zegt dat het bedrijf toch investeringen in de Golfstaten zal nastreven

Anthropic is van plan om investeringen te zoeken in de Verenigde Arabische Emiraten en Qatar, zo blijkt uit een Slack-bericht dat CEO Dario Amodei zondagochtend naar zijn personeel stuurde en dat WIRED heeft verkregen.

Na de voor- en nadelen te hebben afgewogen, erkende Amodei in zijn brief dat het accepteren van geld van leiders in het Midden-Oosten waarschijnlijk "dictators" zou verrijken. "Dit is een groot nadeel en ik ben er niet blij mee", schreef hij. "Helaas denk ik dat 'Geen enkel slecht persoon mag ooit profiteren van ons succes' een vrij lastig principe is om een bedrijf op te runnen."

De boodschap komt op een moment dat AI-bedrijven zich haasten om de enorme hoeveelheden kapitaal te verwerven die nodig zijn om grensverleggende AI-modellen te trainen en te ontwikkelen. In januari kondigde OpenAI een datacenterproject van $ 500 miljard aan, genaamd Stargate, met financiële steun van MGX, een staatsinvesteringsbedrijf uit de Emiraten. Vier maanden later kondigde het bedrijf aan dat het van plan was een datacenter te bouwen in Abu Dhabi, als onderdeel van een initiatief om buitenlandse overheden te helpen "soevereine AI-capaciteit op te bouwen in samenwerking met de VS".

"Als Amerikaans bedrijf aan de voorhoede van AI-ontwikkeling zijn we er altijd van overtuigd geweest dat de toeleveringsketen voor de ontwikkeling van grensverleggende AI-modellen op Amerikaanse bodem moet plaatsvinden om de Amerikaanse voorsprong te behouden", aldus Christopher Nulty, woordvoerder van Anthropic, in een verklaring. "Zoals Dario al eerder zei, geloven wij er fundamenteel in om de voordelen van AI te delen en het Midden-Oosten en regio's over de hele wereld commercieel te bedienen, in lijn met ons gebruiksbeleid."

In mei bezocht president Donald Trump de Verenigde Arabische Emiraten en Saoedi-Arabië tijdens een vierdaagse reis gericht op economische investeringen. Een kliek techleiders, waaronder Elon Musk, Sam Altman en Nvidia-topman Jensen Huang, vergezelde hem voor een ontmoeting met de kroonprins van Saoedi-Arabië. Opvallend was de afwezigheid van de leiders van Anthropic.

In zijn memo erkende Amodei dat de beslissing om investeringen van autoritaire regimes na te streven zou leiden tot beschuldigingen van hypocrisie. In een essay getiteld "Machines of Loving Grace" schreef Amodei: "Democratieën moeten de voorwaarden kunnen bepalen waaronder krachtige AI de wereld in wordt gebracht, zowel om te voorkomen dat ze worden overmeesterd door autoritairen als om mensenrechtenschendingen in autoritaire landen te voorkomen."

In 2024 besloot Anthropic geen geld uit Saoedi-Arabië te accepteren, uit bezorgdheid over de nationale veiligheid, aldus CNBC . Het nieuws kwam nadat FTX, de failliete cryptobeurs, failliet ging en zijn belang van bijna 8 procent in Anthropic te koop werd aangeboden. Uiteindelijk ging een meerderheid van die aandelen naar ATIC Third International Investment, een bedrijf uit de VAE. Destijds was het belang ongeveer $ 500 miljoen waard.

Nu lijkt het erop dat Anthropic klaar is om geld van de Golfstaten te accepteren, hoewel het bedrijf niet heeft aangegeven of het zijn standpunt ten opzichte van Saoedi-Arabië in het bijzonder heeft gewijzigd. "Er is werkelijk een gigantische hoeveelheid kapitaal in het Midden-Oosten, makkelijk 100 miljard dollar of meer", schreef Amodei in het memo. "Als we aan de grens willen blijven, hebben we enorm veel baat bij toegang tot dit kapitaal. Zonder kapitaal is het aanzienlijk moeilijker om aan de grens te blijven."

Door een ‘nauwkeurige, puur financiële investering vanuit Golfstaten’ na te streven, hoopt het bedrijf de risico’s te vermijden die gepaard gaan met het toestaan dat externe investeerders ‘macht’ over het bedrijf krijgen, aldus het memo.

"De basis van ons verzet tegen grote trainingsclusters in het Midden-Oosten, of tegen het verschepen van H2O's naar China, is dat de 'toeleveringsketen' van Al gevaarlijk is om aan autoritaire regeringen over te dragen. Omdat Al waarschijnlijk de krachtigste technologie ter wereld is, kunnen deze regeringen het gebruiken om militaire dominantie te verwerven of invloed te krijgen op democratische landen", schreef Amodei in het memo, verwijzend naar Nvidia-chips.

Toch gaf de CEO toe dat investeerders "soft power" konden verwerven door de belofte van toekomstige financiering. "De impliciete belofte om te investeren in toekomstige rondes kan een situatie creëren waarin ze soft power hebben, waardoor het in de toekomst moeilijker wordt om hiertegen te vechten. Sterker nog, ik maak me zorgen dat het lastig kan zijn om de grootst mogelijke investeringsbedragen binnen te halen zonder akkoord te gaan met een aantal van deze andere zaken", schrijft Amodei. "Maar ik denk dat de juiste reactie hierop is om simpelweg te kijken hoeveel we kunnen krijgen zonder akkoord te gaan met deze zaken (die volgens mij waarschijnlijk nog steeds vele miljarden bedragen), en dan voet bij stuk te houden als ze erom vragen."

In een sectie met de titel "Erosie van normen" merkt Amodei op dat de reden dat Anthropic "luidkeels aandrong op het niet toestaan van grote datacenters in het Midden-Oosten" was omdat "zonder een centrale autoriteit die ze blokkeert, er een race naar de bodem ontstaat, waarbij bedrijven veel voordeel behalen door steeds dieper in het Midden-Oosten te duiken."

"Helaas, omdat we er niet in geslaagd zijn die dynamiek op collectief niveau te voorkomen, zitten we er nu als individueel bedrijf mee opgescheept. De mediaanpositie binnen de andere bedrijven lijkt te zijn: 'het uitbesteden van onze grootste trainingsruns van 5 GW aan de VAE/Saoedi-Arabië is prima'", aldus de CEO, waarschijnlijk verwijzend naar de overeenkomst van de Verenigde Staten om een nieuw AI-datacenter in de VAE te bouwen, aangedreven door 5 gigawatt elektriciteit. "Dat zet ons op een aanzienlijk achterstand, en we moeten manieren zoeken om een deel van die achterstand te compenseren en tegelijkertijd minder aanstootgevend te blijven. Ik wou echt dat we niet in deze positie zaten, maar dat is wel zo."

In een sectie getiteld "Communicatiehoofdpijn" erkende de CEO dat het aantrekken van investeringen uit Golfstaten waarschijnlijk tot publieke kritiek zou leiden. De "media / Twitter / de buitenwereld" "zijn altijd op zoek naar hypocrisie, terwijl ze tegelijkertijd erg dom zijn en daardoor inhoudelijke kwesties slecht begrijpen", schreef Amodei. Hij voegde eraan toe: "Het is volkomen consistent om te pleiten voor een beleid van 'Niemand mag x doen', maar als dat beleid faalt en iedereen doet x, om dan zelf met tegenzin x te doen."

"We zijn ook geïnteresseerd in commerciële dienstverlening aan de regio, wat ik eigenlijk puur positief vind, zolang we er geen datacenters bouwen en zolang we ons [acceptabel gebruiksbeleid] handhaven," voegde hij eraan toe. "Het zou zelfs belangrijke voordelen voor de wereld kunnen hebben, zoals het verbeteren van de volksgezondheid, het stimuleren van de economische ontwikkeling, enzovoort."

Hij concludeerde: "Net als bij veel beslissingen heeft ook deze zijn nadelen, maar over het geheel genomen zijn wij ervan overtuigd dat het de juiste beslissing is."