Утечка меморандума: генеральный директор Anthropic заявляет, что компания в конце концов продолжит инвестиции в страны Персидского залива

Компания Anthropic планирует привлечь инвестиции из Объединенных Арабских Эмиратов и Катара, говорится в сообщении генерального директора Дарио Амодеи, отправленном сотрудникам в воскресенье утром и полученном WIRED.

Взвесив все за и против, Амодей признал в своей записке, что принятие денег от лидеров Ближнего Востока, вероятно, обогатит «диктаторов». «Это реальный недостаток, и меня это не радует», — написал он. «К сожалению, я считаю, что принцип «Ни один плохой человек не должен извлекать выгоду из нашего успеха» — довольно сложный для ведения бизнеса».

Это сообщение появилось в то время, когда компании, работающие в сфере ИИ, спешат привлечь огромные средства, необходимые для обучения и разработки передовых моделей ИИ. В январе OpenAI объявила о проекте центра обработки данных Stargate стоимостью 500 миллиардов долларов при финансовой поддержке MGX, государственной инвестиционной компании ОАЭ. Четыре месяца спустя компания объявила о планах строительства центра обработки данных в Абу-Даби в рамках усилий по оказанию помощи иностранным правительствам «в создании суверенного потенциала в области ИИ совместно с США».

«Как американская компания, находящаяся на переднем крае разработки ИИ, мы всегда считали, что цепочка поставок передовых моделей ИИ должна располагаться на американской территории для сохранения лидерства Америки», — заявил представитель Anthropic Кристофер Налти. «Как уже говорил Дарио, мы принципиально верим в совместное использование преимуществ ИИ и коммерческие услуги на Ближнем Востоке и в других регионах мира в соответствии с нашей Политикой использования».

В мае президент Дональд Трамп посетил Объединённые Арабские Эмираты и Саудовскую Аравию в рамках четырёхдневной поездки, посвящённой экономическим инвестициям. К нему на встрече с наследным принцем Саудовской Аравии присоединилась группа лидеров технологической отрасли, включая Илона Маска, Сэма Альтмана и главу Nvidia Дженсена Хуана. Примечательно отсутствие руководства Anthropic.

В своей записке Амодеи признал, что решение добиваться инвестиций от авторитарных режимов приведёт к обвинениям в лицемерии. В эссе под названием «Машины любящей благодати» Амодеи писал: «Демократии должны иметь возможность устанавливать условия, на которых мощный ИИ появляется в мире, как для того, чтобы избежать подавления со стороны авторитарных режимов, так и для предотвращения нарушений прав человека в авторитарных странах».

В 2024 году компания Anthropic решила не принимать финансирование от Саудовской Аравии, ссылаясь на соображения национальной безопасности, сообщает CNBC . Это произошло после того, как обанкротившаяся криптовалютная биржа FTX начала процедуру банкротства, и её почти 8% акций Anthropic были выставлены на продажу. В конечном итоге большая часть этих акций досталась компании ATIC Third International Investment из ОАЭ. На тот момент стоимость пакета составляла около 500 миллионов долларов.

Теперь, похоже, Anthropic готова принять деньги от государств Персидского залива, хотя компания не сообщила, изменила ли она свою позицию по Саудовской Аравии в частности. «На Ближнем Востоке действительно огромный капитал, легко достигающий 100 миллиардов долларов или больше», — написал Амодей в своей записке. «Если мы хотим оставаться на передовой, доступ к этому капиталу даёт нам огромную выгоду. Без него оставаться на передовой значительно сложнее».

В меморандуме говорится, что, осуществляя «узконаправленные, чисто финансовые инвестиции из стран Персидского залива», компания надеется избежать рисков, связанных с предоставлением внешним инвесторам возможности получить «рычаг влияния» на компанию.

«Основа нашего противодействия крупным учебным кластерам на Ближнем Востоке или поставкам H2O в Китай заключается в том, что передавать «цепочку поставок» ИИ авторитарным правительствам опасно. Поскольку ИИ, вероятно, является самой мощной технологией в мире, эти правительства могут использовать его для получения военного превосходства или получения рычагов воздействия на демократические страны», — написал Амодей в служебной записке, имея в виду чипы Nvidia.

Тем не менее, генеральный директор признал, что инвесторы могут получить «мягкую силу» за счёт обещания будущего финансирования. «Неявное обещание инвестировать в будущие раунды может создать ситуацию, в которой у них появится некоторая мягкая сила, что немного усложнит сопротивление подобным вещам в будущем. Честно говоря, я действительно обеспокоен тем, что получить максимально возможные объёмы инвестиций может быть сложно, не согласившись на некоторые из этих условий», — пишет Амодей. «Но я думаю, что правильный ответ на это — просто посмотреть, сколько мы можем получить, не соглашаясь на эти условия (которые, я думаю, всё ещё составляют многие миллиарды), а затем твёрдо стоять на своём, если они попросят».

В разделе под названием «Эрозия стандартов» Амодеи отмечает, что причина, по которой Anthropic «громогласно настаивала на запрете крупных центров обработки данных на Ближнем Востоке», заключалась в том, что «без блокирующего их центрального органа власти возникает гонка на выживание, в которой компании получают массу преимуществ, все глубже погружаясь в сношения с Ближним Востоком».

«К сожалению, не сумев предотвратить эту динамику на коллективном уровне, мы теперь застряли с ней как отдельная компания, а среди других компаний, похоже, наблюдается медианное положение: „Передача наших крупнейших учебных циклов мощностью 5 ГВт в ОАЭ/Саудовскую Аравию — это нормально“», — сказал генеральный директор, вероятно, имея в виду соглашение США о строительстве нового центра обработки данных для ИИ в ОАЭ, работающего на электроэнергии мощностью 5 гигаватт. «Это ставит нас в крайне невыгодное положение, и нам нужно искать способы компенсировать это невыгодное положение, оставаясь при этом менее предосудительным. Я бы очень хотел, чтобы мы не оказались в таком положении, но мы в нём оказались».

В разделе «Проблемы с коммуникациями» генеральный директор признал, что получение инвестиций от стран Персидского залива, вероятно, вызовет публичную критику. «СМИ/Твиттер/внешний мир» «всегда ищут лицемерия, при этом проявляя крайнюю глупость и, следовательно, плохо разбираясь в существенных вопросах», — написал Амодей. Он добавил: «Совершенно логично отстаивать политику „Никому не позволено делать X“, но если эта политика провалится, и все остальные будут делать X, то нам придётся неохотно делать X».

«Мы также заинтересованы в коммерческом обслуживании региона, что, на мой взгляд, является исключительно позитивным фактором, при условии, что мы не будем строить там центры обработки данных и будем соблюдать нашу [политику приемлемого использования]», — добавил он. «На самом деле, это может принести миру важные выгоды, включая улучшение здоровья людей, содействие экономическому развитию и т. д.»

Он заключил: «Как и у многих решений, у этого есть недостатки, но мы считаем, что в целом оно верное».