Дилемма фиксера: Крис Лихейн и невыполнимая миссия OpenAI

Крис Лихейн — один из лучших в своём деле по части замалчивания плохих новостей. Пресс-секретарь Эла Гора при Клинтоне, главный кризисный менеджер Airbnb во всех регуляторных кошмарах от Англии до Брюсселя — Лихейн знает толк в флирте. Сейчас он два года на, возможно, самой невыполнимой из своих задач: в качестве вице-президента OpenAI по глобальной политике, он должен убедить мир, что OpenAI действительно небезразлична демократизация искусственного интеллекта, в то время как компания всё больше ведёт себя, как, скажем так, любой другой технологический гигант, когда-либо заявлявший о своей исключительности.

В начале этой недели я провёл с ним 20 минут на сцене конференции Elevate в Торонто. 20 минут, чтобы перейти от обсуждений к реальным противоречиям, разъедающим тщательно выстроенный имидж OpenAI. Это было непросто и не совсем успешно. Лихейн действительно хорош в своей работе. Он приятен в общении. Его голос звучит разумно. Он признаёт свою неуверенность. Он даже рассказывает, как просыпался в 3 часа ночи с тревогой о том, принесёт ли всё это пользу человечеству.

Но благие намерения ничего не значат, когда ваша компания вызывает критиков в суд, откачивает воду и электричество из экономически неблагополучных городов и возвращает к жизни умерших знаменитостей, чтобы утвердить свое доминирующее положение на рынке.

Проблема компании с Sora на самом деле лежит в основе всего остального. Инструмент для генерации видео, запущенный на прошлой неделе, казалось бы, изначально содержал материалы, защищённые авторским правом. Это был смелый шаг для компании, на которую уже подали в суд New York Times, Toronto Star и половина издательской индустрии. С точки зрения бизнеса и маркетинга, это также было блестяще. Приложение, доступное только по приглашению, взлетело на вершину App Store, поскольку пользователи создавали цифровые версии себя, генерального директора OpenAI Сэма Альтмана, персонажей, таких как Пикачу, Марио и Картман из «Южного парка», и покойных знаменитостей, таких как Тупак Шакур.

На вопрос о том, что побудило OpenAI выпустить новейшую версию Sora с этими персонажами, Лихейн дал мне стандартную презентацию: Sora — это «технология общего назначения», как электричество или печатный станок, которая делает творчество доступным для людей без таланта и ресурсов. Даже он, самопровозглашённый творческий ноль, теперь может снимать видео, сказал он со сцены.

Он уклонился от мысли, что изначально OpenAI «позволяла» правообладателям отказаться от использования их работ для обучения Соры, что обычно не соответствует принципам использования авторских прав. Затем, после того как OpenAI заметила, что людям очень нравится использовать изображения, защищённые авторским правом, она «эволюционировала» в сторону модели добровольного согласия . Это не совсем итерация. Это проверка того, насколько многое можно избежать. (И, кстати, хотя на прошлой неделе Ассоциация кинокомпаний и подняла вопрос о судебных угрозах, OpenAI, похоже, довольно многое удалось избежать.)

Естественно, эта ситуация напоминает о раздражении издателей, обвиняющих OpenAI в обучении на их разработках, не разделяя при этом финансовую выгоду. Когда я надавил на Лихейна, что издатели не участвуют в экономической политике, он сослался на принцип добросовестного использования — американскую правовую доктрину, призванную уравновесить права создателей и доступ общественности к знаниям. Он назвал его секретным оружием технологического доминирования США.

Возможно. Но недавно я брал интервью у Эла Гора , бывшего начальника Лихейна, и понял, что любой может просто спросить об этом ChatGPT, вместо того чтобы читать мою статью на TechCrunch. «Это „итеративный“ подход, — сказал я, — но это также и замена».

Лихэйн впервые за всё время опустил руки. «Нам всем придётся с этим разобраться», — сказал он. «Сидеть здесь на сцене и говорить, что нам нужно найти новые модели экономического дохода, — это очень легко и банально. Но я думаю, мы это сделаем». (Короче говоря, мы всё придумываем на ходу.)

Затем возникает вопрос об инфраструктуре, на который никто не хочет отвечать честно. OpenAI уже управляет кампусом дата-центра в Абилине, штат Техас, и недавно начал строительство огромного дата-центра в Лордстауне, штат Огайо, в партнёрстве с Oracle и SoftBank. Лихейн сравнил доступность ИИ с появлением электричества, заявив, что те, кто получил к нему доступ последними, всё ещё играют в догонялки. Однако проект OpenAI Stargate, по всей видимости, нацелен на те же самые экономически неблагополучные регионы в качестве площадок для размещения объектов с их огромными потребностями в воде и электроэнергии.

Когда во время нашей встречи Лихэйна спросили, получат ли эти сообщества выгоду или просто оплатят расходы, он обратился к гигаваттам и геополитике. Он отметил, что OpenAI требует около гигаватта энергии в неделю. В прошлом году Китай выработал 450 гигаватт плюс 33 ядерных объекта. Если демократии хотят демократического ИИ, им придётся конкурировать. «Оптимист во мне говорит, что это модернизирует наши энергетические системы», — сказал он, рисуя картину новой индустриализации Америки с преобразованными энергосетями.

Это было вдохновляюще. Но это не было ответом на вопрос, будут ли жители Лордстауна и Абилина наблюдать резкий рост счетов за коммунальные услуги, пока OpenAI генерирует видеоролики с Джоном Ф. Кеннеди и The Notorious BIG (генерация видео — самый энергозатратный вид искусственного интеллекта из всех существующих).

Это привело меня к самому неприятному примеру. Зельда Уильямс весь день перед нашим интервью умоляла незнакомцев в Instagram прекратить публиковать созданные искусственным интеллектом видеоролики с её покойным отцом, Робином Уильямсом. « Вы не занимаетесь искусством , — написала она. — Вы превращаете человеческие жизни в отвратительные, переработанные хот-доги».

Когда я спросил, как компания совмещает подобный вред для себя с миссией, Лихейн ответил, рассказав о процессах, включая ответственное проектирование, фреймворки тестирования и партнёрство с государственными органами. «Для этого нет единого сценария, верно?»

В некоторые моменты Лихейн демонстрировал уязвимость, говоря, что каждую ночь просыпается в 3 часа ночи, беспокоясь о демократизации, геополитике и инфраструктуре. «Это налагает огромную ответственность».

Независимо от того, были ли эти моменты задуманы для публики или нет, я ему верю. Более того, уезжая из Торонто, я думал, что увидел мастер-класс по политическому месседжингу – Лихэйн, пытающийся продеть нитку в иголку, уклоняясь от вопросов о решениях компаний, с которыми, насколько я знаю, он даже не согласен. А потом случилась пятница.

Натан Кэлвин, юрист, работающий над политикой в ​​области ИИ в некоммерческой правозащитной организации Encode AI, рассказал, что в то же время, когда я разговаривал с Лихейном в Торонто, OpenAI направила к нему домой в Вашингтоне, округ Колумбия, помощника шерифа , чтобы вручить ему повестку. Они хотели получить доступ к его личной переписке с законодателями Калифорнии, студентами и бывшими сотрудниками OpenAI.

Кэлвин обвиняет OpenAI в запугивании, связанном с новым законопроектом об ИИ, калифорнийским законопроектом SB 53. Он утверждает, что компания использовала судебную тяжбу с Илоном Маском как предлог для травли критиков, намекая на то, что Encode тайно финансировался Маском. Более того, Кэлвин утверждает, что боролся с сопротивлением OpenAI калифорнийскому законопроекту SB 53 о безопасности ИИ, и что, когда он увидел заявление компании о том, что она «работала над улучшением законопроекта», он «буквально рассмеялся». В своих комментариях в социальных сетях он назвал Лихейна «мастером тёмных политических искусств».

В Вашингтоне это может прозвучать как комплимент. Но в такой компании, как OpenAI, чья миссия — «создать ИИ на благо всего человечества», это звучит как обвинение.

Гораздо важнее то, что даже сами сотрудники OpenAI не уверены в том, кем они становятся.

Как сообщил на прошлой неделе мой коллега Макс, ряд нынешних и бывших сотрудников выразили свои опасения в социальных сетях после выхода Sora 2. Среди них был Боаз Барак, исследователь OpenAI и профессор Гарварда, который написал о Sora 2 : «Технически игра потрясающая, но пока преждевременно поздравлять себя с тем, что нам удалось избежать ловушек других приложений для социальных сетей и дипфейков».

В пятницу Джош Ачиам, руководитель отдела согласования миссий OpenAI, написал в Твиттере нечто ещё более примечательное по поводу обвинения Кэлвина. Предваряя свои комментарии словами о том, что они «возможно, представляют риск для всей моей карьеры», Ачиам продолжил писать об OpenAI: «Мы не можем делать то, что делает нас пугающей силой, а не добродетельной. У нас есть долг и миссия перед всем человечеством. Планка для выполнения этого долга необычайно высока».

Это... нечто. Руководитель OpenAI, публично сомневающийся в том, что его компания становится «пугающей силой, а не добродетельной», не идёт ни в какое сравнение с конкурентом, который критикует, ни с репортёром, задающим вопросы. Это человек, который выбрал работу в OpenAI, верит в её миссию и теперь признаёт угрызения совести, несмотря на профессиональный риск.

Это переломный момент. Вы можете быть лучшим политическим деятелем в сфере технологий, мастером находить выход из безвыходных ситуаций и при этом работать на компанию, чьи действия всё больше противоречат её заявленным ценностям. Эти противоречия могут только обостриться по мере того, как OpenAI стремительно движется к созданию искусственного интеллекта общего назначения.

Это наводит меня на мысль, что настоящий вопрос не в том, сможет ли Крис Лихейн донести миссию OpenAI. А в том, верят ли в неё другие, в том числе, что особенно важно, и другие сотрудники компании.