Серьёзно, что такое «сверхинтеллект»?

Meta только что объявила о крупном шаге в своих усилиях в области ИИ — инвестировании в Scale AI и создании исследовательской лаборатории сверхразумного ИИ. В то время как Meta пытается не отставать от крупных имен в гонке ИИ, таких как OpenAI, Anthropic и Google, новая стратегия компании включает в себя вложение серьезных денег в приобретение талантов и инвестирование в Scale AI.

Сегодня в передаче мы подробно рассмотрим сделку между Meta и Scale AI, в том числе то, какую выгоду Meta намерена получить от инвестиций, а также зададим вопрос, который интересует всех нас: что вообще такое сверхчеловеческий интеллект?

Вы можете следить за Майклом Калором на Bluesky в @snackfight , Лорен Гуд на Bluesky в @laurengoode , и Кэти Драммонд на Bluesky в @katie-drummond . Пишите нам на [email protected] .

Вы всегда можете прослушать подкаст этой недели через аудиоплеер на этой странице, но если вы хотите оформить бесплатную подписку, чтобы получать все эпизоды, вот как это сделать:

Если у вас iPhone или iPad, откройте приложение Podcasts или просто нажмите на эту ссылку . Вы также можете загрузить приложение Overcast или Pocket Casts и выполнить поиск по запросу «Uncanny Valley». Мы также есть на Spotify .

Примечание: это автоматизированная расшифровка, которая может содержать ошибки.

Майкл Калор: Как у всех дела на этой неделе?

Кэти Драммонд: Ну, я вернулась, и я так рада быть здесь. Я съела так много масла во Франции на прошлой неделе, в первые пару ночей, которые у меня были в одиночестве. И что бы делал обычный человек в Париже? Может быть, они бы пошли и посидели в баре и поужинали в одиночестве, может быть, они бы встретились с другом. Я ела масло и хлеб в одиночестве в своем гостиничном номере. И позвольте мне сказать вам, если вы слушаете там, и вы мама и у вас есть маленький ребенок или маленькие дети, если вы замужем, если вы боретесь с супругом и ребенком и, возможно, с некоторыми домашними животными и напряженной работой, нет ничего лучше, чем есть французское масло и хлеб в одиночестве в гостиничном номере.

Майкл Калор: Ого.

Лорен Гуд: «Зловещая долина» , представленная вам лобби молочных ферм.

Кэти Драммонд: Возле французского молочного лобби. Чувствую себя невероятно. Как у вас дела, ребята?

Лорен Гуд: Я в порядке. У меня челка.

Кэти Драммонд: Да?

Лорен Гуд: Да. Так что большинство наших слушателей не увидят этого, если не посмотрят наши новые видеорекламы онлайн, но у меня есть челка. Часто есть связь между тем, что происходит в мире, и тем, что женщины стригут челку. Это все, что я собираюсь сказать по этому поводу. Но в остальном я молодец. Я молодец. Оцените челку, зайдите в интернет. Палец вверх, палец вниз.

Кэти Драммонд: Пять из пяти.

Лорен Гуд: Спасибо. Кэти, правда, ты была моим вдохновением.

Кэти Драммонд: О, нет, это слишком мягко. Но я люблю челку и ненавижу лоб.

Майкл Калор: Ну что ж, у меня есть для тебя стрижка?

Лорен Гуд: Ну, Майк, как дела? Извини, Майк.

Кэти Драммонд: Но там так много умных мыслей, Майк. В этом-то и дело.

Майкл Калор: Я такой, каким меня создал Бог.

Кэти Драммонд: Как дела?

Майкл Калор: У меня все отлично. У меня нет никаких историй о волосах. Я давно не ел масла, поэтому сейчас чувствую себя действительно обделенным. Это «Зловещая долина» от WIRED, шоу о людях, власти и влиянии Кремниевой долины. Сегодня мы говорим о недавних инвестициях Meta в Scale AI и ее шаге по созданию исследовательской лаборатории сверхинтеллекта ИИ. Это последняя попытка Meta конкурировать с такими крупными именами в гонке ИИ , как OpenAI , Anthropic и Google . Но Meta придерживается другого подхода. Ее модели ИИ не только имеют открытый исходный код, но и, как это свойственно Meta, похоже, пытается превзойти своих конкурентов в расходах на приобретение лучших талантов, и ее инвестиции в Scale AI, которые не являются приобретением, являются лишь частью этой стратегии. Мы углубимся в то, что Meta надеется получить от этих инвестиций и что она на самом деле получает, и может ли этот шаг дать компании конкурентное преимущество, к которому она стремится. Кроме того, мы зададимся вопросом, что вообще такое сверхинтеллект? Меня зовут Майкл Калор, я директор по потребительским технологиям и культуре в WIRED.

Лорен Гуд: Меня зовут Лорен Гуд. Я старший корреспондент WIRED.

Кэти Драммонд: А я Кэти Драммонд, международный редакционный директор WIRED.

Майкл Калор: Итак, давайте начнем с погружения в Scale AI. В отличие от Meta, компания не является тем, что можно назвать именем нарицательным где-либо за пределами Кремниевой долины, но она, безусловно, сделала себе имя в мире ИИ. Что происходит с Scale?

Лорен Гуд: Scale AI — это компания по маркировке данных. Звучит очень заманчиво, не правда ли? Они выполняют тяжелую работу по анализу и категоризации данных, которые затем распределяются по более крупным моделям ИИ для их обучения. Ничего особенного, но они выполняют важную функцию для улучшения программ машинного обучения. И у них есть несколько довольно крупных клиентов. Среди их клиентов были такие компании, как OpenAI и Google. Ранее в этом году наш коллега Уилл Найт сообщил о новой платформе Scale AI, которая позволяет автоматически тестировать модели ИИ по ключевым показателям и выявлять любые слабые места в моделях. Так что, по сути, Scale AI прилагает эти концентрированные усилия, чтобы стать ключевым партнером, работая с этими крупными компаниями ИИ.

Кэти Драммонд: Я думаю, стоит также отметить, что на самом деле в основе успеха компании лежит ее основатель Александр Ванг, без буквы «е», верно?

Майкл Калор: Да.

Лорен Гуд: Да.

Майкл Калор: Он — Flickr среди генеральных директоров.

Кэти Драммонд: Вот так. Ему 28 лет, и в какой-то момент он был самым молодым миллиардером в мире, который сам заработал свои деньги, что довольно невероятно. Так что он известная личность в Кремниевой долине, и, возможно, он наиболее известен тем, как много он заводит знакомств, о чем, учитывая, что я не живу в Сан-Франциско, Лорен и Майк, вероятно, могут рассказать вам гораздо больше. Но когда-то он был соседом по комнате с Сэмом Альтманом , который, предположительно, якобы сказал ему немного сбавить обороты в общении. Неясно, какие именно мотивы могли быть у него, но Ван явно не прислушался к этому совету, и он окупился для него. Так что эта последняя сделка между Meta и Scale AI на самом деле произошла после того, как Ван и Цукерберг, как сообщается, провели много времени один на один, занимаясь нетворкингом, предположительно. И именно его связи со многими ключевыми игроками в отрасли ИИ позволили ему сейчас занять столь влиятельную позицию и стать востребованным такой компанией, как Meta, которой, как мы поговорим об этом немного позже, действительно нужна поддержка в сфере ИИ.

Bloomberg недавно сообщил , что Ван известен тем, что звонит «головокружительному количеству людей», и не только старшим, но и младшим сотрудникам в фирмах, занимающихся ИИ, чтобы узнать, над чем они работают и что хотят сделать. Так что он не только сетевик, но и тот, кто держит ухо востро. Он как бы в курсе событий в Кремниевой долине в том, что касается ИИ.

Лорен Гуд: Это звучит утомительно.

Кэти Драммонд: Так и есть. Я чувствовала усталость, просто говоря об этом.

Лорен Гуд: Да. И еще, как на самом деле выглядит нетворкинг в Кремниевой долине? Это как, вы ...

Кэти Драммонд: Ну, ребята, расскажите мне. Чем вы занимаетесь?

Лорен Гуд: Да, я не знаю. Встретиться с ребятами в Blue Bottle, прежде чем отправиться в Marine Layer, а потом пойти на ночную вечеринку по кодированию в каретном сарае особняка в Пасифик-Хайтс? Я не знаю. Как это выглядит?

Майкл Калор: Много ходит и разговаривает.

Кэти Драммонд: Это правда?

Лорен Гуд: Ну, в Долине так оно и есть.

Майкл Калор: Да.

Лорен Гуд: В районе Пало-Альто люди… А в Сан-Франциско тоже так делают?

Майкл Калор: О, да.

Лорен Гуд: Да? Да, это так?

Майкл Калор: Да, люди ходят и разговаривают.

Кэти Драммонд: Говоря о ходьбе и разговоре, Майк, я хочу услышать больше о деталях сделки.

Майкл Калор: Да. Давайте поговорим о том, сколько денег на кону в этой сделке, плюс о том, что Meta надеется получить от инвестиций, и, возможно, самое главное, что она на самом деле получает от этой сделки.

Лорен Гуд: Итак, сделка была объявлена ​​как инвестиция в Scale AI в размере 14,3 млрд долларов. Чтобы было ясно, это не приобретение. Они просто берут 49 процентов акций Scale AI, а также привлекают Александра Вана и кучу талантов, но это не приобретение, ребята. Не называйте это так. Мы видели волну этого за последние 12-18 месяцев, когда Microsoft и Google также либо делали стратегические инвестиции, либо заключали лицензионные соглашения с более мелкими игроками в области ИИ, чтобы как бы привлечь их, но не обязательно подвергать их пристальному вниманию правительства США и Министерства юстиции, потому что они хотят двигаться здесь быстро. Они хотят создать эти ИИ как можно быстрее, и поэтому они хотят просто привлечь все эти таланты. И да, мы сваливаем Meta сюда, но это, по сути, то, что они делают с Scale AI.

Теперь для Александра, нашего мастера сетей, эта сделка также включает в себя руководящую роль в этом проекте суперинтеллекта, который собирается строить Meta. Мы подробнее остановимся на этом позже, когда будем говорить о суперинтеллекте и о том, что это такое. Цукерберг, Meta теперь владеет стратегическими 49 процентами акций Scale AI. Когда дело доходит до того, что Meta действительно получает от этой сделки, главным активом является огромный объем данных по обучению ИИ, которыми обладает Scale AI, и это приводит к тому, чего Meta надеется достичь в долгосрочной перспективе, — толчок к развитию своих проектов Meta AI.

Кэти Драммонд: И я имею в виду, что Meta, безусловно, делает здесь много умных вещей, можно сказать, одна из которых заключается в том, что они поставили своих конкурентов в довольно щекотливое положение, когда дело доходит до того, должны ли они продолжать работать с Scale AI или им следует перейти в другие компании. И у Scale AI есть и другие партнерства, происходящие за пределами экосистемы ИИ. Так что у компании есть сделки с иностранными правительствами в Азии и Европе, у нее есть сделка с Министерством обороны на самом деле на первую в своем роде программу агентов ИИ, которая звучит так же антиутопично, как, вероятно, и есть. Она называется Thunder Forge. И цель, по сути, состоит в том, чтобы улучшить военные операции с агентами ИИ. Я имею в виду, это именно то, что вы думаете. И Meta потенциально может извлечь выгоду из всех этих альянсов, которые есть у Scale AI. Так что, безусловно, можно сказать, что это взаимовыгодное соглашение, и оно заставляет многих игроков в сфере ИИ следить за тем, что касается Meta.

Лорен Гуд: Я имею в виду, я думаю, что важно помнить о Meta, что Meta покупает свой путь к инновациям. Она не раскручивает его полностью сама по себе. Если вы посмотрите на WhatsApp, если вы посмотрите на Instagram, если вы посмотрите на Oculus, все это приобретено Meta. И затем иногда, когда Meta действительно пытается раскрутить какое-то видение будущего самостоятельно, как Metaverse, о котором мы слышали два года назад, все это рушится, или face computer, как мы любим говорить. То, что делает Meta, это блокировка не только данных из Scale AI, но и блокировка талантов и технологий, которые, по ее мнению, имеют решающее значение для продвижения вперед в эту следующую фазу ИИ. Если смотреть на это слишком упрощенно, вам нужны на самом деле две вещи, чтобы вывести ИИ на новый уровень прямо сейчас, вам нужно больше вычислительной мощности и вам нужно много данных, и в идеале высококачественных данных.

Это явно покупка данных, и это также способ удержать другие компании от потенциального использования. Как только что сказала Кэти, Google теперь отказывается от своего партнерства с Scale AI.

Майкл Калор: И Meta делает это, потому что ей предстоит пройти долгий путь, чтобы достичь вершины, верно? Мы говорили о том, как Meta спотыкалась в последние несколько лет в гонке ИИ, поэтому я хочу немного в этом разобраться, особенно в том, как она отстает от своих конкурентов и что она пытается сделать конкретно, чтобы продвинуться вперед с этими инвестициями.

Лорен Гуд: Совершенно верно, с этой стратегической инвестицией, Майк. Короткий ответ на это — Llama, которая является его базовой моделью, ее ответом на ChatGPT OpenAI и Google Gemini. К сожалению, пока что Llama не оправдала шумиху вокруг нее. Она не такая мощная, как конкурирующие системы OpenAI и Google. Однако примечательно, что Meta попыталась выделиться, открыв исходный код Llama, что означает, что она свободно делится базовым кодом со сторонними разработчиками программного обеспечения и компаниями. Так что, я думаю, она верит, что в долгосрочной перспективе это действительно принесет ей пользу, даже если прямо сейчас она не выигрывает по скорости и каналам.

Майкл Калор: Могу ли я спросить вас, каково общепринятое мнение о том, почему Meta решила выпустить Llama как модель с открытым исходным кодом, а не оставить ее закрытой, как все ее конкуренты?

Лорен Гуд: Да, это хороший вопрос. Хотелось бы мне просто позвонить Марку и спросить его об этом напрямую, но я не могу, и мы не знаем точно, что у него в голове. Но я думаю, что в любой надежной технологической среде у вас будет привязка и у вас будут поставщики с открытым исходным кодом, говорите ли вы о мэйнфреймах IBM, а затем Linux, или вы говорите о программном обеспечении Apple против Google Android, и я думаю, что Google Android является самой используемой операционной системой в мире, и различные продукты, бизнес-модели и модели лицензирования выросли из нее. И поэтому это может быть частью того, о чем Марк Цукерберг думает в долгосрочной перспективе. Я думаю, он также чувствует себя очень обиженным Apple. Я имею в виду, он сказал это конкретно, когда написал сообщение в блоге в прошлом году, обосновывая, почему Llama является продуктом с открытым исходным кодом. Он сказал, чтобы сделать это хорошо, мы должны гарантировать, что у нас всегда будет доступ к лучшим технологиям, и что мы не вступаем в закрытую экосистему конкурента, где они могут ограничивать то, что мы создаем.

И он сказал, что одним из его наиболее формирующих опытов, создание Meta-сервисов, было ограничение этих сервисов тем, что Apple позволит Meta делать на своих платформах. Поэтому, когда он думает о будущем ИИ и о том, что произойдет в течение следующих нескольких лет или позже, я думаю, он не хочет, чтобы Meta был заперт.

Майкл Калор: Да, кажется, что все усилия Meta в области ИИ были очень поверхностными, своего рода легковесными вещами, ориентированными на потребителя, верно? У них есть приложение Meta AI, которое вы можете использовать для чата, по сути, как чат-бот, они встроили свой ИИ в умные очки, и они создали этих чат-ботов, которые живут внутри Instagram и позволяют вам общаться с кем-то , кто говорит, по сути, как Снуп Дог . Есть также поиск с помощью ИИ, который был развернут во всех различных проектах Meta, но на самом деле кажется, что такого рода социальная игра в ИИ, в частности ИИ чат-бота, была тем, на чем они просто сосредоточились. У них нет продвинутых систем, которые корпорации могли бы лицензировать. У них нет большого количества больших боеприпасов, которые есть у других компаний.

Кэти Драммонд: Ну, и ИИ, ориентированный на потребителя, я имею в виду, если можно так смело, не особенно хорош или хорошо спроектирован, или хорошо сделан, или не особенно хороший пользовательский опыт. Я имею в виду, у меня нет учетной записи Facebook, и я не имею ее уже очень давно. Я использую Instagram. Я имею в виду, я ни разу не использовала этот чат-бот. Так что эти ставки, ориентированные на потребителя, не были особенно успешными, в дополнение к тому, что они были не очень хороши, но у них также недавно были довольно существенные промахи в плане конфиденциальности. Сюрприз, сюрприз, у Meta проблемы с конфиденциальностью. Наша коллега, Кайли Робинсон, сообщила, что приложение на самом деле показало... Это безумие. Это просто безумие. Приложение показало личные разговоры между чат-ботом и пользователями, включая медицинскую информацию, домашние адреса, даже вещи, напрямую связанные с ожидаемыми судебными делами, где люди разговаривали с чат-ботом, задавали ему вопросы, получали помощь с любым странным, больным вопросом, на который они пытались ответить, или проблемой, которую они пытались решить.

И без их ведома эти разговоры появлялись в социальной ленте, где каждый мог видеть, как кто-то пытается нарушить договор аренды своего арендатора или получить доступ к порнографии или получить медицинский диагноз странной шишки на ноге. Все эти вещи, что, да, вы должны быть осторожны в своих разговорах с любым чат-ботом? Безусловно. Но большинство людей, по крайней мере, предполагают, что эти диалоги и эти перепалки не будут просто опубликованы в Интернете. Я имею в виду, что это довольно ошеломляющий провал. И это, конечно, не кажется случайным, не кажется, что они просто сказали: «О, как неловко, что это произошло». Я просто не думаю, что им действительно все равно. И это, очевидно, было повествованием вокруг Meta в течение очень долгого времени, то есть, возникают проблемы с их услугами, особенно в том, что касается конфиденциальности, и кто-то там в СМИ сообщает об этом, а затем они это исправляют, и это именно то, что произошло на этот раз. Думаю, они поместили в верхней части чат-бота предупреждение, чтобы вы знали, что соглашаетесь или отказываетесь от публичного распространения ваших разговоров.

Но просто складывается впечатление, что они не особенно заинтересованы в том, чтобы серьезно задуматься о конфиденциальности, которая, по моему мнению, когда дело касается чат-ботов и ИИ и этого смелого нового мира, в который мы все идем вперед или в который нас в некоторых случаях ведут вперед, нам, вероятно, следует потратить некоторое время на размышления о конфиденциальности. Теперь, конечно, с этой сделкой с Scale AI, Meta надеется перевернуть страницу, открыть новую главу во всех своих усилиях в области ИИ, ориентированных на потребителя или нет, особенно с этой лабораторией суперинтеллекта ИИ.

Майкл Калор: Это действительно важно, что Meta не делала бы всех этих громких заявлений о сверхинтеллекте. Она бы не делала этих инвестиций, если бы не чувствовала, что уже потерпела неудачу в гонке за разработку сильных программ ИИ. Потому что это не просто реорганизация или перестройка, это полная перезагрузка. Это совершенно новая команда с новым руководством и новой миссией. В течение очень долгого времени человеком, который возглавлял усилия Meta в области ИИ, был Янн Лекун , очень уважаемый гуру Кремниевой долины в области ИИ. Он выиграл премию Тьюринга, которая является трофеем для инженеров ИИ. Но Лекун, как известно, не считает, что искусственный общий интеллект — это то, что находится в ближайшем будущем. Он не большой сторонник чат-ботов. Он видит ценность в больших языковых моделях, но это не то, что его интересует. И я думаю, что если вы собираетесь полностью погрузиться в это, хорошо, что будет дальше? Тогда вам нужна новая кровь. Вам нужны люди, которые искренне верят в эту следующую фазу, которая, конечно же, определяется термином «сверхразум».

Лорен Гуд: Сверхразум.

Майкл Калор: Давайте сделаем перерыв, а затем вернемся и выясним, что это значит.

[перерыв]

Майкл Калор: Добро пожаловать обратно в Uncanny Valley . Перед перерывом мы упоминали, что ключевым аспектом этой сделки между Meta и Scale AI, помимо всех вовлеченных больших денег, является создание лаборатории сверхинтеллекта ИИ. Итак, вопрос к группе, что, черт возьми, такое сверхинтеллект?

Кэти Драммонд: Лорен?

Лорен Гуд: О, нет. Ну, в основном это относится к разработке ИИ, который выходит за рамки человеческого мозга. Немного неясно, что именно это значит. Последние пару лет мы слышали о ИИ, что является общим искусственным интеллектом , а теперь мы говорим о сверхинтеллекте. Мое понимание, основанное на разговорах с исследователями и технологами об этом, заключается в том, что это не момент переключения, это не то, что будет конкретная модель или какой-то выпуск продукта, когда мы внезапно скажем: «О, мы живем в ИИ», и «О, следующий шаг — сверхинтеллект». Все это как бы происходит в континууме. Но идея в том, что это иметь что-то такое же умное, как человек или человеческий мозг, в вашем кармане на вашем телефоне, что просто безумие. Он не будет разумным, не будет испытывать эмоций, но он будет так хорошо воспроизводить все это, что вы будете чувствовать себя немного сраженным этим. И, возможно, это плохие новости для нас, людей, я на самом деле не знаю.

Мы знаем, что термин «суперинтеллект» был популяризирован оксфордским философом Ником Бостромом, который в 2014 году написал книгу о суперинтеллекте. И он разбил будущее, в котором ИИ продвинется до точки, где он сможет выступить против человечества и уничтожить его. И теперь, конечно, его использует Марк Цукерберг. Так что метавселенная, суперинтеллект, я думаю, что на данный момент у нас есть представление о том, что находится на книжной полке Марка Цукерберга.

Кэти Драммонд: И я имею в виду, я думаю, что весь этот вопрос, что такое ОИИ? Что такое суперинтеллект? Я имею в виду, что во многом это просто брендинг. Это маркетинг, который индустрия ИИ использует, чтобы вызвать чувство, я думаю, своего рода запугивания, страха, благоговения, уважения и почтения со стороны широкой общественности, политиков, законодателей. Я имею в виду, они хотят, чтобы эта штука чувствовала, что эта следующая эра уже не за горами, и нам нужно готовиться сейчас. И если мы не будем готовы до того, как будет готов Китай, это будет просто катастрофа, потому что это ОИИ. Это как, но что на самом деле это такое? И я думаю, что Meta делает что-то очень интересное и, на мой взгляд, циничное, а именно, позиционируя эту новую лабораторию как сверхинтеллект, они по сути говорят: «СИИ? СИИ — это уже прошлый век. Мы даже не думаем об СИИ. Мы просто прыгаем прямо к сверхинтеллекту».

Я имею в виду, что это маркетинг насквозь. Я не говорю, что эта технология не развивается, что она не улучшится радикально со временем, что мы не увидим, и мы уже видим, ИИ, который способен делать то, что могут делать люди. Мы видим это постоянно. Есть много, много, много примеров этого. Но я думаю, что эти термины используются очень слащаво, оппортунистически для лидеров и руководителей отрасли, чтобы звучать и чтобы их технологии звучали как можно более впечатляюще, ценно и устрашающе. Вот что я думаю.

Майкл Калор: Это также хороший маркетинг для рекрутеров. Если вы человек, который является профессионалом в индустрии ИИ, вам уже довольно хорошо платят, вы чувствуете, что работаете над следующим большим делом, потому что вы работаете над где-то AGI, и затем внезапно это типа, да, но разве вы не предпочли бы работать над суперинтеллектом?

Лорен Гуд: Да. Да.

Майкл Калор: Так кто еще работает над сверхинтеллектом? Есть ли другие компании AGI, которые говорят: «Ладно, нет, подождите, теперь мы тоже этим занимаемся». Есть ли люди, которые уже некоторое время работают над сверхинтеллектом?

Лорен Гуд: Это зависит от того, какого визионера ИИ вы слушаете. Сэм Альтман из OpenAI, похоже, все еще сосредоточен на AGI. Он сказал, что, по его мнению, он будет достигнут до конца текущего президентского срока Трампа. Дарио Амадей из Anthropic сказал, что, по его мнению, AGI появится в течение следующих двух лет. Так что это все еще ребята из AGI. С другой стороны, у вас есть Илья Суцкевер, который был бывшим главным научным сотрудником OpenAI. Он стал соучредителем компании Safe Superintelligence, и у них другой подход. Они в частном порядке создают суперинтеллект и говорят, что выпустят эту технологию в мир только тогда, когда она будет признана безопасной. Так что я думаю, что они все работают над одним и тем же, но «сверхинтеллект» — это последнее модное словечко.

Кэти Драммонд: Мне нравится, что им придется скрываться долгие годы.

Майкл Калор: Да.

Кэти Драммонд: Мне не терпится увидеть, как они выползут из своего бункера с помощью своего безопасного ИИ.

Майкл Калор: Да, они держат его прикованным к цепи в подвале.

Кэти Драммонд: Стоит отметить, что, помимо Ильи, не все лидеры ИИ увлечены шумихой вокруг сверхразума. Так что это люди, которые исторически держались в тени, но в последнее время все больше из них начали высказываться, что, я думаю, примечательно. Так что Томас Вульф — один из примеров. Он соучредитель и главный научный сотрудник Hugging Faces. Он назвал некоторые части видения Амадея «в лучшем случае желаемым за действительное». Это и есть видение ОИИ. А Демис Хассабис , генеральный директор Google DeepMind, как сообщается, сказал своим сотрудникам, что, по его мнению, отрасль может занять до десяти лет от разработки ОИИ, отметив, что сегодня ИИ просто не может сделать многого. Так что, опять же, это скептицизм по отношению к ОИИ. Мы даже не говорим о сверхразуме. Так что Бог знает, когда он будет готов. Думаю, когда Илья даст нам знать.

Майкл Калор: Давайте поговорим обо всех людях, которые здесь задействованы. Вам действительно нужны все лучшие таланты, чтобы действительно конкурировать, если вы собираетесь что-то создать, независимо от того, как вы это называете. И в этих инвестициях, которые Meta сделала с Scale AI, они получают Александра Вана, который приходит в компанию, он приводит с собой ключевых людей из Scale, чтобы они работали с ним в Meta в лаборатории суперинтеллекта. И это происходит в то время, когда таланты в области ИИ пользуются огромным спросом, и всем ведущим инженерам предлагают миллионы и десятки миллионов долларов в год для работы в крупных компаниях. И, по-видимому, Meta предлагает пакеты компенсаций с девятизначными суммами, чтобы заставить людей работать в лаборатории суперинтеллекта.

Кэти Драммонд: Подождите. Можете ли вы просто назвать девять цифр? То есть это не сотни тысяч, это не миллионы, это не десятки миллионов, это сотни миллионов?

Майкл Калор: Это более 100 миллионов долларов.

Лорен Гуд: Что?

Майкл Калор: Да.

Кэти Драммонд: Я имею в виду, я онемела. Я знала о семи и восьмизначных цифрах, что тоже просто ошеломляет, но девятизначные цифры — это нереально. Это нереальные деньги.

Лорен Гуд: Я буквально думаю, что мне нужно прочитать об этом сейчас. Что? Это так безумно. Я собираюсь пересмотреть то, что я сказала ранее, когда я сказала: «О, компании, которые пытаются подняться на уровень ИИ прямо сейчас, смотрят на вычислительную мощность и смотрят на данные». Они также смотрят на талант. Это огромная, огромная часть этого. Я все еще не могу понять, сколько денег предлагают этим людям, но я думаю, что это то, что Meta чувствует, что ей нужно сделать. Интересно, как это отразится в ее следующем отчете о доходах. Мы также видели, что ранее на этой неделе опытный инженер по машинному обучению и научный сотрудник OpenAI только что был переведен на новую должность в качестве руководителя отдела рекрутинга в OpenAI, что увлекательно. Я имею в виду, на самом деле, первая реакция была вроде как, хм, это интересная смена карьеры. Но потом вы думаете, о, этот парень будет говорить. Теперь ему нужно пойти и набрать лучших, лучших специалистов для OpenAI, постоянно набирать лучших специалистов для OpenAI, и теперь им нужно конкурировать с Meta, предлагающей миллионы, миллиарды долларов инженерам.

Так что, я думаю, сейчас действительно идет гонка за талантами. Инвестор Sequoia Capital Дэвид Кан только что написал об этом пост в блоге, который я читал, где он сказал, что талант — это новое узкое место в ИИ, и сравнил это с созданием спортивной команды. Все они поддерживаются какой-то мегабогатой технологической компанией или отдельным лицом, звездные игроки могут распоряжаться этими сумасшедшими пакетами оплаты в десятки миллионов или сотни миллионов долларов. Однако в отличие от спортивных команд, где игроки часто имеют долгосрочные контракты, трудовые соглашения ИИ могут быть краткосрочными и ликвидными, что означает, что любой может быть переманен в любое время.

Кэти Драммонд: Это увлекательно, это гротескно. Я хочу знать все о том, сколько этим людям платят. Я хочу знать все. А для Meta будет интересно посмотреть, сколько денег им нужно, чтобы заполучить лучших специалистов. Я имею в виду, деньги имеют значение. Если бы кто-то предложил мне сто миллионов долларов за работу на кого-то, кто меня не очень воодушевлял, в компании, которая, как я думала, имела так себе послужной список в целом и довольно плохую в отношении ИИ, я имею в виду, сто миллионов долларов сдвинули бы ситуацию. И будет очень интересно посмотреть, смогут ли Anthropics, OpenAI и Google мира конкурировать. Я имею в виду, мы знаем, что Цукерберг сам занимается подбором персонала. Он лично связывается с кандидатами. Мне интересно, и мы узнаем, приносит ли это пользу компании или нет.

Лорен Гуд: Я имею в виду, независимо от того, как вы относитесь к Марку Цукербергу, Meta — это просто… На данный момент она существует уже некоторое время. Это 20-летняя компания. Она торгуется на бирже. Вы, вероятно, получите действительно хороший пакет акций вдобавок к этому. Но когда вы присоединяетесь к такому космическому кораблю, как OpenAI, вы присоединяетесь, потому что думаете, что если вы придете достаточно рано… На данный момент это даже не так рано, но что в какой-то момент вы станете мульти-, мульти-, мультимиллионером, если эта компания либо ускорится, либо продастся, или что-то в этом роде. И затем это создает эффект маховика, который мы всегда видим в Кремниевой долине, верно? Ранние сотрудники Google, которые ушли и начали что-то другое. В конечном итоге мы увидим эту волну людей из OpenAI, которые уйдут и начнут что-то другое. Но если сейчас вы получите сопоставимое предложение от OpenAI или Meta, к какому из них вы обратитесь, когда задумаетесь о будущем?

Майкл Калор: И я имею в виду, что есть много людей, которые не возьмут эти деньги. Я имею в виду, если вы думаете о типе людей, которые получают эти сверхвысокие зарплаты, им платили очень, очень хорошо в течение многих лет, возможно, их компанию приобрели, и они получили большую выплату с этого, так что теперь они удобно сидят на должности в Anthropic или в OpenAI. И также проект, над которым они работают, соответствует их навыкам, и, возможно, они хотят довести его до конца. Так что здесь задействовано немного эго, задействовано немного жизненного решения, и задействована этика, например, вы действительно хотите пойти работать в Meta? Вы хотите пойти построить то, что они строят? Особенно после того, как они сделали заявление о том, что они собираются начать разрешать использовать свои технологии Министерству обороны, и они собираются начать делать военные вещи с помощью инструментов ИИ, которые они создают, и инструментов XR, которые они создают.

Так что да, я думаю, что сейчас есть много людей, которые просто сидят сложа руки и должны решить, стоят ли эти деньги того для них как для людей.

Лорен Гуд: Вы когда-нибудь тратите время на приложение Blind?

Майкл Калор: Нет. Это тот случай, когда люди говорят о том, каково это — работать в компании?

Лорен Гуд: Речь идет о работе в компании, потому что вы должны присоединиться к компании, когда вы подписываетесь на приложение, но это все темы. И часто люди приходят в группу с компенсационным пакетом и говорят, что мне предложили это от Meta или Amazon и что мне делать? И вы просто понимаете, насколько отдален этот мир от того, как живет остальной мир или остальная часть страны. Люди, которые похожи: «Ну, я не знаю. Должен ли я взять этот пакет за 700 000 долларов от Amazon? И это без акционерного капитала, преимуществ, или я должен взять этот другой сопоставимый пакет из аналогичной компании, но они позволили мне работать из дома? И я не знаю, потому что мне 40, и у меня всего 10 миллионов на пенсию». Я как, Боже мой, это мир, о котором мы говорим.

Майкл Калор: Да.

Кэти Драммонд: Нам нужно больше сообщать об этом. Я думаю, что компенсация людей в Силиконовой долине увлекательна.

Лорен Гуд: Ну, если кто -то хотел бы взвесить, если вы рекрутер, если вы человек, который был сделан одним из этих предложений из лаборатории Meta Superintelligence, мы хотим услышать от вас.

Майкл Калор: Большие деньги.

Кэти Драммонд: Мы уверены.

Лорен Гуд: Наши сигналы там.

Майкл Калор: Большие деньги, нет киомов.

Лорен Гуд: Теперь мы знаем, для чего нам оставит Кэти: пойти на работу на Марка Цукерберга.

Кэти Драммонд: сто миллионов долларов - это много денег. Это много денег.

Лорен Гуд: Это много денег.

Кэти Драммонд: Мне было бы сложно. Я не думаю, что смог бы это сделать.

Лорен Гуд: Да. Если вы инвестируете это, ну, это будет много денег для детей ваших детей.

Кэти Драммонд: Я знаю, но потом я должен был рассказать своему ребенку, что я делаю, и я не знаю, что могу это сделать. Я совершенно честен. Я не думаю, что смог бы это сделать. Позвольте мне прояснить, есть много фантастических людей, которые работают в Meta. Я имею в виду, что это не отказ от чьих -либо решений или выбора карьеры или где они решили работать, учитывая мое прошлое и то, что я зарабатываю на жизнь, да, я не знаю. Я не думаю, что смогу это сделать.

Майкл Калор: Вы станете частью революции суперинтелтинга.

Кэти Драммонд: Я не хочу.

Майкл Калор: Может быть, просто используйте чат -бот, и тогда вы можете почувствовать, что вы часть этого.

Кэти Драммонд: Да, вот ты. У меня есть несколько насущных и очень личных вопросов для чат -бота Meta, и как только мы выйдем из этой записи, я пойду задавать всем их наедине.

Майкл Калор: Я с нетерпением жду их прочтения на [неразборчивости 00:30:11].

Лорен Гуд: Кэти нравится, как мне достать себя из рабочего проекта, который заперт меня в комнате по два часа каждую неделю?

Кэти Драммонд: О, дорогой.

Майкл Калор: Хорошо, давайте сделаем еще один перерыв, и мы вернемся с рекомендациями.

[перерыв]

Майкл Калор: Хорошо, спасибо вам обоим за отличный разговор о суперинтеллигентности. Поэтому я думаю, что пришло время дать нашим слушателям что -то от нашего собственного суперинтелтингантного человеческого мозга, наших рекомендаций на неделю. Лорен, ты хочешь пойти первым?

Лорен Гуд: Конечно. Недавно я узнал, что, используя генеративные инструменты искусственного интеллекта, такие как CHATGPT, вы можете сделать свой анализ цвета. Кто -нибудь из вас когда -нибудь делал это?

Майкл Калор: Нет.

Кэти Драммонд: Нет.

Лорен Гуд: Так что это вещь, которая является частью мира влияния красоты, где обычно вы платите кому -то, иногда человек, иногда приложение, которое имеет человеческий вклад, чтобы проанализировать цвет ваших волос, кожи, глаза, тон кожи, все это, и сказать вам, какой вы сезон, а затем рассказывать вам, какую одежду вы должны носить, чтобы подчеркивает вашу ситуацию.

Кэти Драммонд: Вы нашли это откровение?

Лорен Гуд: Да. Так недавно, когда я тусовался с некоторыми друзьями, одна из них сделала ее анализ цвета, и мы говорили об этом, и она сказала: «О, вы можете просто сделать это на CHATGPT». И я сказал: «Что? Тебе не нужно платить кому -то пару сотен долларов, чтобы сделать это?» Поэтому она загрузила наши фотографии в CHATGPT, и я сделал анализ цвета. И поэтому я глубокая осень, на случай, если кто -то захочет знать.

Майкл Калор: Это горящий вопрос.

Лорен Гуд: Это был горящий вопрос. Я думал, может быть, я зима, но я глубокая осень. И поэтому я думаю, что на сегодняшний день это самый интересный случай использования CHATGPT, который я испытал до сих пор.

Майкл Калор: когда -нибудь, из всех ...

Лорен Гуд: Нет, это неправда.

Майкл Калор: Из всего вашего опыта.

Лорен Гуд: Это неправда. На днях он рассказал мне, как готовить грибы Салини вместо грибов кремни. Я совершенно уверен, что салини не существует. Так что это было полезно в этом отношении тоже.

Кэти Драммонд: Yikes.

Лорен Гуд: Но нет, я использовал это и для других вещей. Я использовал его для исследований и рассуждений и забавных вещей, подобных этому.

Майкл Калор: Это довольно хорошо.

Лорен Гуд: Так что, может быть, позже, на самом деле, я собираюсь загрузить фотографии вас обоих в CHATGPT и попросить его провести анализ цвета.

Майкл Калор: Я не согласен.

Лорен Гуд: А потом я скажу тебе ... хорошо. Какого цвета вы должны носить. Вы оба сейчас носите все черные.

Кэти Драммонд: Как обычно.

Майкл Калор: Да, я собирался сказать. Я звоню в эти дни в будние дни.

Лорен Гуд: Анархисты в комнате. Я люблю это. Хорошо, вот и все. Это моя рекомендация.

Кэти Драммонд: Я думала о том, что рекомендовать, и это была либо книга, детский фильм или еду, и я был как, нет, девочка, вы уже сделали все это. Вы должны думать о чем -то другом. На самом деле у меня есть рекомендация, связанная с искусственным интеллектом, то есть, что у меня недавно приехал кто-то, чтобы помочь мне с моим открытым растениями, как наш маленький задний двор в Бруклине, и я говорил ему, что все мои внутренние растения умирают и борются, и я был так запутался. Я был похож, в какое окно должен входить? И что ... бла, бла, бла, бла, бла. Как часто я поливаю все эти вещи? У меня много растений. И он рекомендовал это приложение под названием Picture This. И вы фотографируете все свои растения и загружаете фотографии в приложение, оно говорит вам, что это за растение, он говорит вам, как часто их поливать. Вы можете использовать свой телефон, чтобы показать приложение, сколько солнца проходит через окно, и он скажет вам, достаточно ли солнца, слишком много солнца, недостаточно солнца.

О, и вы можете сфотографировать растение, и он скажет вам, если он болен и с чем он борется, что очень расстраивает, но очень полезно. У меня много борющихся растений. Но это очень, очень круто. Это определенно очень осуждает. Теперь я получаю толчные уведомления: «Разве вы не хотите заботиться о своих растениях?» И я, ну, ну, я делаю, но у меня также есть работа. Это очень, очень интересный продукт, и если у вас есть растения, я очень рекомендую его.

Лорен Гуд: Представьте себе это.

Кэти Драммонд: Представьте себе это. Здоровые растения, здоровые вас. Супериинтеллигент, представьте себе это.

Лорен Гуд: Майк, какая у тебя рекомендация?

Майкл Калор: Я думаю, что, учитывая нынешнее геополитическое состояние мира, пришло время повторно посмотреть доктора Странгелова , фильм 1964 года Стэнли Кубрика. Доктор Странгелов или: как я научился перестать беспокоиться и любить бомбу . Речь идет о эскалации политической напряженности, основанной на недопонимании, которое приводит к ядерной войне. Это фарс. Это очень смешно. Это также очень сухо, но это отличный фильм. К сожалению, я пересматриваю его примерно раз в год. Меня обычно вынуждены смотреть на это. Поэтому я бы сказал, что сейчас хорошее время, чтобы посмотреть доктора Странгелова . И я не говорю, что мир закончится, но всякий раз, когда мы начнем говорить о ядерной власти, и мы начинаем говорить о людях в мире, у которых есть пальцы на кнопке, важно напомнить себе, что это человеческие решения, которые люди принимают о нашем будущем, и это отличный фильм, чтобы помочь вам обработать эту информацию.

Кэти Драммонд: Вау.

Лорен Гуд: Итак, Кэти поливает ее растения, и я срезаю челки, и вы смотрите фильмы о конце света. Я вижу, кто среди нас действительно погружается, а кто ...

Майкл Калор: Так что многие люди игнорируют пустоту. Многие люди признают это. Я один из тех людей, которые ставят мое лицо прямо к стеклу и просто пугает его.

Кэти Драммонд: Это похоже на моего мужа. Не для того, чтобы все о нем, но ... я чувствую, что покрываю пустоту. Я делаю пустоту для своей работы. Каждый день я в пустоте. Поэтому, когда я не буду в работе, я хочу пойти в La La Land. И поэтому вчера вечером я говорил людям в Slack сегодня, мой муж писал мне ссылки на подержанные моторные лодки, потому что он был как самое безопасное место для нас во время ядерной атаки, находится в середине водоема.

Лорен Гуд: Господи.

Кэти Драммонд: И я была похожа, и, как вы думаете, что именно мы будем делать в этой маленькой моторной лодке посреди Атлантического океана у побережья Нью -Йорка? Я думаю, что если речь идет о моторной лодке или смерти, мы, вероятно, умрем.

Лорен Гуд: Да, да.

Кэти Драммонд: Просто говоря.

Лорен Гуд: Это было до сна, как до того, как вы должны были заснуть?

Кэти Драммонд: Прямо, когда я лежала в постели, пытаясь заснуть, и это похоже на пинг, пинг, ссылки на подержанные лодки.

Лорен Гуд: Я имею в виду, я думаю, что мы все вроде недействительны в наши дни, так что вы не можете действительно игнорировать это.

Кэти Драммонд: Вы не можете игнорировать это, но я скажу, что это выбор, чтобы опираться на это в ваше личное время.

Майкл Калор: Я бы сказал, что если вы собираетесь выполнять это упражнение, то есть меньше людей, с которыми это более восхитительно, чем Питер Селлерс, Джордж С. Скотт и Стерлинг Хейден и Стэнли Кубрик. Это отличный фильм, так что транслируйте его сегодня вечером.

Кэти Драммонд: Мы ссылаемся на это в примечаниях.

Майкл Калор: Спасибо, что послушали Стромную долину . Если вам понравилось то, что вы слышали сегодня, обязательно следите за нашим шоу и оцените его в приложении подкаста по выбору. Если вы хотите связаться с нами с любыми вопросами, комментариями или предложениями, напишите нам по адресу [email protected] . Сегодняшнее шоу продюсирует Кьяна Могадам и Адриана Тапиа. Амар Лал в макросаунд смешал этот эпизод. Джейк Луммус был нашим нью -йоркским инженером. Даниэль Роман проверил факт в этом эпизоде. Джордан Белл - наш исполнительный продюсер. Кэти Драммонд - глобальная редакционная директора Wired, а Крис Бэннон - глава Global Audio.