Распаковка агентов ИИ

За последние шесть месяцев OpenAI, Anthropic, Google и другие выпустили агентов веб-браузинга, которые разработаны для самостоятельного выполнения задач с минимальным участием людей. Генеральный директор OpenAI Сэм Альтман даже назвал агентов ИИ «следующим гигантским прорывом». В сегодняшнем выпуске мы рассмотрим, чем эти агенты отличаются от других форм машинного интеллекта и могут ли их возможности оправдать шумиху.

Вы можете следить за Майклом Калором на Bluesky в @snackfight , Лорен Гуд на Bluesky в @laurengoode , и Уиллом Найтом на Bluesky в @willknight . Пишите нам на [email protected] .

Вы всегда можете прослушать подкаст этой недели через аудиоплеер на этой странице, но если вы хотите оформить бесплатную подписку, чтобы получать все эпизоды, вот как это сделать:

Если у вас iPhone или iPad, откройте приложение Podcasts или просто нажмите на эту ссылку . Вы также можете загрузить приложение Overcast или Pocket Casts и выполнить поиск по запросу «зловещая долина». Мы также есть на Spotify .

Примечание: это автоматизированная расшифровка, которая может содержать ошибки.

Майкл Калор: Привет, это Майк. Прежде чем мы начнем, я хочу воспользоваться случаем и напомнить вам, что мы хотим услышать от вас. У вас есть какие-либо вопросы об ИИ, политике или конфиденциальности, которые вас интересуют? Или просто тема, которую вы хотели бы обсудить в шоу? Если да, вы можете написать нам на [email protected] . Это [email protected] . Если вы слушаете и вам нравятся наши эпизоды, пожалуйста, оцените шоу и оставьте отзыв в вашем любимом приложении для подкастов. Это действительно помогает другим людям находить нас. Привет всем, как у вас дела?

Лорен Гуд: Я в порядке. Я держусь. Как ты, Майк?

Майкл Калор: Я в порядке. Чувствую себя хорошо. На этой неделе в шоу Уилл Найт.

Лорен Гуд: Да, я чувствую себя прекрасно. Я скучаю по Кэти, но мы знаем, что Кэти отправилась на поиски французского масла. Буквально, она отправилась во Францию.

Майкл Калор: Я думаю, Уилл, ты принес нам круассан, не так ли?

Уилл Найт: Да. Конечно, да. Свежеиспеченный.

Лорен Гуд: Спасибо за это. Теперь вы можете остаться на шоу.

Майкл Калор: Это «Зловещая долина» WIRED, шоу о людях, силе и влиянии Кремниевой долины. Сегодня мы говорим об агентах ИИ и о том, почему так много технологических компаний делают на них большие ставки. За последние шесть месяцев OpenAI, Anthropic, Google и другие выпустили агентов веб-браузера, которые разработаны для самостоятельного выполнения задач с минимальным участием людей. Генеральный директор OpenAI Сэм Альтман назвал агентов ИИ «следующим гигантским прорывом». По одной из оценок, почти половина технологических компаний уже внедряют или полностью развертывают агентов искусственного интеллекта. На этой неделе мы углубимся в то, чем эти агенты отличаются от других форм машинного интеллекта, и могут ли их возможности соответствовать шумихе. Я Майкл Калор, директор по потребительским технологиям и культуре здесь, в WIRED.

Лорен Гуд: Меня зовут Лорен Гуд, я старший корреспондент WIRED.

Уилл Найт: А я Уилл Найт, старший журналист WIRED.

Майкл Калор: Я хотел бы начать с вопроса: был ли у кого-нибудь из вас в последнее время опыт агентской деятельности?

Лорен Гуд: Недавно у меня был опыт с Google Duplex, помните?

Майкл Калор: Конечно.

Лорен Гуд: Хорошо. Это была ранняя версия. Она вышла где-то в 2018 году; мы тогда писали об этом в WIRED. Но недавно я попыталась забронировать столик на ужин в том месте, куда мы с тобой ходили на твой день рождения. Веганские суши. Это уже самый Сан-Францискоский подкаст из всех. Мы говорим о веганских суши и о том, как я отправила, не зная того, агента ИИ, чтобы он попытался забронировать столик для меня.

Майкл Калор: Как это было неосознанно?

Лорен Гуд: Потому что я только что сделала очень человеческий поступок, зашла на сайт и набрала «хотел бы забронировать столик на это количество человек в это время». Без моего ведома, он передал это через Google Assistant. Затем он сказал: «Мы пытаемся забронировать ресторан от вашего имени».

Майкл Калор: О.

Лорен Гуд: И он продолжал пытаться, а затем отправлял мне уведомление. Затем он продолжал пытаться, а затем отправлял мне уведомление. Он работал за кулисами, пытаясь сделать бронирование. Он не смог успешно завершить бронирование. Это считается?

Майкл Калор: Да, это имеет значение.

Лорен Гуд: Это агент ИИ? Он работал от моего имени.

Майкл Калор: Да.

Лорен Гуд: Уилл, а как насчет тебя?

Уилл Найт: Я играл с инструментами кодирования ИИ, и в первую очередь с Claude Code, который, как я думаю, является хорошим примером агента. Потому что он делает все эти забавные вещи, например, не просто пишет код, но и редактирует файлы, перемещает их. Использует ваш терминал. Удаляет вещи, если вам не повезло. Это агентская штука, с которой я играл.

Лорен Гуд: Вы занимаетесь виброкодированием, вот о чем вы говорите.

Уилл Найт: Да, да. Это было увлекательно. Vibe coding — это термин, который придумал очень известный исследователь ИИ Андрей Карпати, чтобы описать, по сути, создание целых программ, готового программного обеспечения, просто подсказывая модель. Эти модели всегда могли автоматически дополнять код, но за последний год они стали настолько хороши в кодировании, что могут создавать целые проекты, включающие множество файлов и множество папок, и все такое. На самом деле, я начал делать это со своим ребенком, потому что думал: «Как научить ребенка понимать ИИ?» И еще, вы всегда думали, что это хорошая идея — заставить их кодировать. Он любит игры, поэтому я подумал: «Давайте напишем код для некоторых игр».

Майкл Калор: Ну, мой опыт гораздо менее технический, поскольку недавно мне пришлось внести изменения в бронирование билета на самолет через приложение Southwest.

Лорен Гуд: Мне жаль.

Майкл Калор: Да. Ну, на самом деле все было нормально.

Лорен Гуд: Мои соболезнования.

Майкл Калор: Это подтолкнуло меня к чат-боту. Это было похоже на «поговорите с нашим чат-ботом, если вам нужна помощь». Я подумал: «О, это будет бесить». На самом деле, все было нормально. Это заняло пять минут. Я дал ему свой номер подтверждения, информацию о моем рейсе. Затем он спросил: «Какие изменения вы хотели бы внести?» Я сказал: «Я хотел бы сделать это». Они сказали: «Мы можем сделать это для вас без комиссии». Я подумал: «Отлично». «Вы хотите забронировать?» Да. «Хорошо, он забронирован. Вот ваш новый посадочный талон. Вам нужно зарегистрироваться, но вот ссылка, чтобы зарегистрироваться и получить новый посадочный талон». Я подумал: «Ух ты».

Лорен Гуд: Это тот агент, о котором мы говорим? Это агент по работе с клиентами.

Майкл Калор: Верно.

Лорен Гуд: И это бот, который это воспроизводит. Но эта новая эра агентского ИИ, технологические компании, собирающие миллионы долларов и имеющие оценки в миллиарды, потому что они переходят на агентов, это не совсем то, что есть, верно?

Майкл Калор: Хорошо. Это хороший вопрос для Уилла. Можно задать его тебе, Уилл? В чем разница между агентом ИИ, о котором мы говорим, и традиционным чат-ботом, с которым большинство людей сталкивались?

Уилл Найт: Верно. Чат-бот генерирует текст, и вы можете общаться с ним через эту очень, очень узкую область текста. Это было необычайно мощно. Революция, которую мы видели, построена вокруг этих языковых моделей, которые могут выдавать необычайно связные и хорошие ответы на вопросы, это не совсем то же самое, что система ИИ, которая по своей сути является агентом. Если вы оглянетесь назад в историю ИИ, на самом деле, многие исследователи всегда работали над этой идеей, что интеллект по своей сути подразумевает агентство. Люди — это не то, что просто говорит. Они пытаются выполнять действия, вы пытаетесь решать проблемы. Это была давняя цель. Это странная причуда, что у нас были эти языковые модели, которые настолько ограничены и немного старомодны. Многое из того, что мы видим, когда дело доходит до агентов, — это в основном люди, которые берут языковые модели и используют тот факт, что они очень общие и очень гибкие, чтобы принимать сложные команды и запускать некоторые действия. Реальный скачок, который хотят сделать компании, заключается в том, что модели будут сами принимать решения и смогут формулировать свои действия, больше напоминая собой разумную сущность.

Лорен Гуд: Человек все еще в курсе, но он вводит команду или подсказку, а затем отступает. Агент делает кучу дел ИИ, в основном, пока вы занимаетесь другими делами. Это обещание, что они смогут сделать нас всех сверхпродуктивными.

Уилл Найт: Да. В идеале у вас был бы агент, который звонил бы в авиакомпанию за вас. Вы говорите ему, что вы хотите сделать, и он идет и ведет переговоры за вас. Или вы можете дать ему гораздо более открытые команды или то, чего вы пытаетесь достичь, и он сам придумает, как это сделать за вас. Языковые модели настолько общие, настолько эффективные, что в теории они должны быть в состоянии это сделать. Но есть некоторые действительно важные уловки, когда дело доходит до того, как вы пытаетесь воспроизвести человеческое агентство, потому что в мире происходит гораздо больше, чем просто язык. Агентство на самом деле подразумевает больше, чем просто попытку решить индивидуальную проблему, потому что оно касается других людей, что усложняет ситуацию.

Майкл Калор: Мягко говоря.

Уилл Найт: Да.

Майкл Калор: Говоря о моделях, похоже, что вся Кремниевая долина инвестировала в разработку собственных агентов ИИ, но кто сейчас является основными игроками?

Уилл Найт: Главные игроки очевидны. OpenAI, Anthropic, Google. Я думаю, что Amazon — хорошая темная лошадка в этой гонке. Они наняли несколько выдающихся людей из OpenAI, которые создали агентский стартап. У них есть лаборатория, в которой они пытаются создать множество агентов. Одна из ключевых вещей для этих компаний — откуда вы берете данные. Они все отчаянно пытаются выяснить, как вы получаете данные для обучения этих агентов. Вместо того, чтобы иметь просто текст, вам нужны примеры того, что делают люди. У Amazon на самом деле есть довольно много хороших примеров того, как люди что-то делают на его сайтах. Они хорошие игроки.

Лорен Гуд: Ну, тогда и в мире кодирования тоже есть такие компании, как Cursor. Расскажите нам обо всем этом мире, раз уж вы занимаетесь кодированием вместе с сыном.

Уилл Найт: Да. Да, есть куча стартапов, которые действительно ехали на спинах других компаний ИИ, но действительно сосредоточены на кодировании. Я думаю, что именно потому, что это продвигалось так быстро, они смогли занять эти ниши. Ходят слухи, что OpenAI хочет приобрести одну из этих компаний, Windsurf, примерно за три миллиарда. Что дает вам представление о том, как они смогли сделать этот действительно отличный бизнес для себя.

Лорен Гуд: Кажется, в последнее время на каждом брифинге какая-то компания говорит об агентах.

Майкл Калор: Да.

Лорен Гуд: Они тоже варьируются. Это все компании от Nvidia до Microsoft и хорошо финансируемых стартапов. Даже буквально на этой неделе была компания Glean, я уверен, вы, ребята, слышали о ней. Это компания, которая создала поисковую систему для корпоративных приложений. Они только что привлекли 150 миллионов в раунде финансирования серии F. Сейчас их оценивают в 7,2 миллиарда долларов. Теперь все их дело — агенты. Все дело в агентах.

Уилл Найт: Я думаю, что об этом можно думать так: кто на самом деле строит модели, которые пытаются изучить общее агентство, которое вы видите в языковой модели, и это OpenAI, эти компании-основатели моделей. Вы можете вернуться к предыдущей эпохе в ИИ, когда у нас были некоторые из этих игровых систем ИИ, таких как AlphaZero. Они использовали обучение с подкреплением, этот процесс экспериментирования. Но это было по сути агентно. Он работает только в очень ограниченном мире настольной игры, но он предпринимает действия, он выясняет, как их предпринять. То, что мы видим сейчас с этими компаниями ИИ, отражает это или возвращается к этому в некотором роде, потому что они пытаются заставить их рассуждать о конкретном ответе, о конкретной конечной цели.

Майкл Калор: Если подумать о том, какую роль агенты ИИ могут играть в долгосрочной перспективе, многие компании, о которых мы говорим, начинают с обслуживания клиентов. Они начинают с того, что у вас есть простой вопрос, вам нужно что-то простое сделать. Я могу это для вас решить, я могу это для вас сделать. Я думаю, что именно здесь делаются большинство первых шагов. Gartner, исследователь рынка технологий, опубликовал оценку, что агенты ИИ будут решать 80% распространенных запросов обслуживания клиентов к 2029 году. Это через четыре года, агенты ИИ будут выполнять все наши задачи по обслуживанию клиентов за нас. Основываясь на некоторых из этих примеров, о которых мы говорили, кажется, что автоматизация задач, которые в настоящее время выполняются сотрудниками-людьми, является здесь общей темой.

Уилл Найт: Да. Я думаю, что обслуживание клиентов — это очевидное место для начала, потому что оно включает в себя то, в чем языковые модели блестящи, а именно общение с людьми, а затем попытку сделать довольно ограниченное количество вещей. Многие из этих компаний, крупных игроков ИИ, рассматривают переход от кодирования к тому, как автоматизировать офисную работу. В офисной работе есть масса повторяющихся задач. Теоретически, вы могли бы использовать эти модели в качестве клея, чтобы выяснить, что кто-то пытается сделать, а затем воспроизвести это. В мире кодирования уже есть огромное количество беспокойства о том, что это устранит множество рабочих мест. Затем, я думаю, есть большая вероятность, что это коснется и гораздо большего количества рутинной работы белых воротничков.

Лорен Гуд: Что ж, было весело вести этот подкаст со всеми вами.

Майкл Калор: Мы в основном фокусировались на том, как агенты ИИ выходят и делают что-то, например, просматривают веб-страницы, звонят в ресторан или выполняют какую-то задачу в продукте Microsoft Office для вас. Но мне любопытно, как выглядит мир агентного ИИ в наших домах, на наших физических устройствах. Это было в последнее время в головах многих людей, потому что OpenAI только что объявила о том, что заключила сделку с Джони Айвом, бывшим и давним руководителем отдела дизайна в Apple, о приобретении нового стартапа, который он запустил для создания нового класса устройств ИИ для дома. Что мы думаем об этой разработке?

Лорен Гуд: Трудно сказать, потому что мы пока не знаем, какую именно форму это примет. Я думаю, это представитель нового поколения стартапов и стартапов в области оборудования, которые будут существовать для обслуживания этих ИИ. Они созданы с нуля с учетом будущего искусственного интеллекта и вычислений в пространстве. Мы пока не знаем точно, какой форм-фактор это примет. Будет ли это на вашем рабочем столе, или на вашем теле, или, может быть, и то, и другое. Ну, во-первых, я ценю, я думаю, что это был Джони Айв, который сказал что-то вроде: «Мы все можем согласиться, что мы слишком привязаны к нашему iPhone». То, что они изобрели, теперь: «Мы должны решить для того, что мы изобрели». Но идея в том, может ли ИИ на самом деле сделать достаточно, чтобы избавить нас от необходимости постоянно сидеть опущенными или лицом к экранам, фактически выполняя действия? Может ли технология сделать что-то из этого за нас? А затем освободить нас для других дел. Это всегда было одним из обещаний ИИ в Кремниевой долине. Я помню, как разговаривал с Астро Теллером из Google X лет назад и спросил его: «Что это значит для рабочих мест?» И он в основном сказал: «Ну, с ИИ люди просто повысят свой уровень». Это всегда был действительно солнечный и оптимистичный взгляд Кремниевой долины на ИИ. Я думаю, что появится новая категория рабочих мест и задач, о которых мы, возможно, даже не думали, но мы все еще понятия не имеем, как это на самом деле будет работать в нашей повседневной жизни.

Майкл Калор: Верно. Потому что мне кажется, что люди уже давно это пробуют. Всякий раз, когда мы видели демо следующей версии Siri, или следующей версии Alexa, или следующей версии Google Assistant, всегда была демоверсия, в которой они просили динамик, управляемый голосом умный динамик, заказать пиццу.

Лорен Гуд: Да, это были пицца и Uber, это всегда были примеры.

Майкл Калор: Это сделки, которые производители устройств заключили с компаниями, и они закодировали это. Когда вы спрашиваете Alexa: «Можете ли вы заказать пиццу?», это не был звонок в Dominoes, и голос Alexa заказывал вашу пиццу за вас. Это было просто сделано в веб-приложении, по сути, через API. Я думаю, когда вы говорите о том, что такое следующее поколение, вы можете попросить его сделать что угодно. Что это за вещь, о которой вы спрашиваете? Это какое-то устройство, которое находится рядом с вашим компьютером и вашим телефоном? Почему это должно быть отдельное устройство? Почему это могут быть только ваш компьютер и ваш телефон — вот большой вопрос, который у меня есть. Нужно ли нам что-то, что, вероятно, будет стоить несколько сотен долларов, что, вероятно, будет очень красивым и будет делать многое из того, что делают два других устройства, которыми мы уже владеем? Я на самом деле не знаю. Но все взволнованы этим, потому что это Джони Айв и Сэм Альтман объединились.

Лорен Гуд: Верно. Это просто становится механизмом доставки для того, чем бы ни была эта новая эра вычислений. Я тоже думаю, что примеры, о которых мы говорим, во многом похожи на будущее в стиле Wall-E. Насколько ленивыми мы можем быть, когда мы отправляем ИИ и машинное обучение делать все за нас? В то же время будет место для того, насколько больше я могу узнать? Какие знания я могу получить? Что я могу делать по-другому, потому что ИИ помогает мне? Потребители уже давно обещали, что это изменит вашу повседневную жизнь, устранив те небольшие неудобства, которые у нас есть сейчас. Но я думаю, что реальные выгоды будут следующими: во-первых, я не хочу показаться слишком оптимистичным, потому что я не совсем таков, но можем ли мы закрыть пробелы в знаниях, потому что ИИ действительно поможет нам в этом каким-то образом?

Уилл Найт: Да. Я думаю, что когда дело доходит до OpenAI и Джони Айва, модели становятся все более и более хорошими в интерпретации визуального мира и взаимодействии посредством речи. Я думаю, что в идее есть эта идея, что вы можете иметь совершенно новый, новый интерфейс, вы можете полностью переосмыслить интерфейс. У вас нет этого графического пользовательского интерфейса. Бог знает, что они собираются придумать. Google продемонстрировал это с этим проектом Astra, где вы надеваете эти очки и можете говорить о том, что вокруг вас. Я пробовал это. Это довольно впечатляюще. Да, может быть, есть новые способы, которыми вы можете заказывать пиццу с помощью этого. Но также я не могу не думать о том факте, что им нужны данные о том, что люди все больше делают, чтобы обучать эти модели. Я чувствую, что у производителей оборудования так много интересных данных. Они не склонны использовать их из-за проблем с конфиденциальностью, но, возможно, OpenAI найдет способ. Затем, в вопросе о том, как вы обучаете, разрыв в знаниях, я думаю, что это действительно очень важный момент, потому что автоматизация часто приводит к атрофии навыков людей. Вы видите это в автопилоте в самолете. Затем вы определенно видите, как кодеры говорят, что они теряют навыки, потому что слишком на это полагаются. Что это означает для рабочей силы?

Лорен Гуд: Верно. Если все эти агенты ИИ освободят нас для других дел, что именно они собираются освободить нас для других дел? Как мы собираемся заполнить это время? В нашем ультракапиталистическом, некоторые люди могут назвать его обществом последней стадии капитализма, ответ, вероятно, будет: «Ну, вы просто можете быть более продуктивными. Вы просто можете делать больше, больше, больше». Я думаю, что это будет зависеть от нас, людей, чтобы выступить против этого и сказать: «Вот как мы на самом деле хотим заполнить наше время». Также некоторое время будут эти маленькие узкие места, которые, я думаю, сделают это более сложным, чем что-либо еще. Когда я был на Google IO несколько недель назад, я получил демо, Уилл, их Project Mariner. Вы уже видели это?

Уилл Найт: Да, я пробовал. Да.

Лорен Гуд: Вы пробовали? Не знаю, была ли это демоверсия, которую вам дали, но то, что я видела, это сканировало рецепт коктейля. Затем оно автоматически просто брало ингредиенты из коктейля и помещало их в корзину покупок Instacart. Но затем оно уперлось в узкое место, потому что не было аутентификации для учетной записи Instacart. Это было похоже на: «О, подождите, нам нужно войти в систему». Затем какой-то демоверс попытался войти в Instacart. «Но посмотрите, это так гладко». Я такая: «Нет, я буквально могла бы просто добавить это в Instacart».

Уилл Найт: Да. Их примеры всегда связаны с покупкой чего-то по какой-то причине.

Майкл Калор: Почему мы считаем, что сейчас в Кремниевой долине так пристальное внимание уделяется агентам ИИ? Это тенденция Долины всегда нуждаться в новой цели, к которой можно стремиться? Это признак чего-то большего? Это то, в финансировании чего больше всего заинтересованы венчурные капиталисты? В чем здесь причина?

Уилл Найт: С моей точки зрения, одна из главных причин заключается в том, что, возвращаясь к истории ИИ, это действительно следующий шаг, который вы предпримете в создании чего-то, что приближается к человеческому ИИ или ИИОН, или как вы хотите это назвать. Многие исследователи очень заинтересованы в этом. Я думаю, что здесь также есть огромный потенциал. Общение с чат-ботом полезно, если вы хотите сделать много вещей, ответить на много вопросов. Но идея о том, что вы можете автоматизировать много работы или рутинных дел, потенциально ценна.

Лорен Гуд: Да. Я думаю, что если вы на стартапной стороне, то именно сюда сейчас текут деньги. Мы уже некоторое время находимся в этой эпохе, когда процентные ставки действительно высоки. Для некоторых стартапов было нелегко привлечь капитал. На рынке IPO была небольшая пауза, которая немного остыла. Хотя сейчас есть признаки того, что он снова набирает обороты. Я думаю, что угроза тарифов все еще нависает над головами людей в Кремниевой долине. Если вы итерировали свое программное обеспечение, и вдруг вы можете сказать своим потенциальным инвесторам: «Но подождите. Мы переходим к агентам. Мы делаем этот агентский ИИ. Мы сможем продавать это программное обеспечение другим компаниям, а также мы собираемся оптимизировать наши собственные процессы и сократить наши собственные накладные расходы». Вероятно, это путь к привлечению средств прямо сейчас. Часть этого шумихи? Конечно, это так. Но, как говорит Уилл, поскольку ты, Уилл, так погружен в исследования и разработки, на самом деле, есть и некоторые довольно заметные достижения.

Майкл Калор: Давайте сделаем перерыв прямо сейчас, и мы вернемся. Разработка агентов идет полным ходом, но, как мы только что говорили, текущие агенты, которых мы можем использовать, имеют некоторые существенные ограничения. Но быстро, какие еще опасения стоят за ростом числа агентов ИИ? Не только по поводу удобства использования, но и по поводу других вещей, которые они делают.

Лорен Гуд: Ну, я думаю, что надежность, безусловно, является одной из проблем, потому что они все еще подвержены тем же галлюцинациям, ошибкам и даже подхалимству, что и LLM. Вы также вводите в него гораздо более сложные запросы, потому что вы не просто просите его выполнить поиск для вас. Вы просите его выполнить несколько шагов при определенных условиях. Есть также опасения по поводу высокой стоимости вычислительной мощности. Затем идет продажа самого продукта. The Information недавно сообщила, что OpenAI может взимать до 20 000 долларов в месяц за некоторых из своих более специализированных агентов ИИ. Предположительно, это агенты, которые смогут работать на уровне знаний выпускника доктора наук, предположительно. С одной стороны, это действительно, очень дорого. С другой стороны, наш коллега Пареш Дейв сообщал, что некоторые люди в отрасли считают, что на самом деле это не такие уж большие деньги. Потому что в конечном итоге, если эти агенты заменят рабочие места, что они и могут сделать, то вы сэкономите на всех этих расходах на зарплату. Это может быть действительно выгодной сделкой. Но сейчас вокруг этого есть небольшой ценовой шок.

Уилл Найт: Да, я думаю, что это очень верно. Есть куча других проблем, вещей, которые могут пойти не так и, вероятно, пойдут не так. Группа исследователей, с которыми я говорил... Я говорил с Зико Колтером из CMU, который также входит в совет директоров OpenAI, который изучает безопасность агентов и просто представляет агентов, которые будут, в идеале, взаимодействовать с другими агентами. У вас есть этот усиливающий эффект, который может быть очень трудно предсказать. Как говорит Лорен, также идея того, что эти вещи покупают вещи, по своей сути делает их гораздо более лакомой целью для хакеров. Если у вас есть что-то вроде Mariner, использующего Интернет, действительно интересно просто подумать о том, что люди, возможно, попытаются переизобрести SEO, чтобы работать на агентов. Одна из наиболее фундаментальных проблем, я думаю, заключается в том, что они на самом деле не копируют человеческое агентство. Есть действительно интересная книга на эту тему, чтобы углубиться в детали, называется «Эволюция агентства». Если вы посмотрите на животных и на то, как развивалась их агентность, когда вы доберетесь до людей, то увидите фундаментальное различие в том, как работает человеческая агентность, и это подразумевает работу с другими людьми. Это подразумевает сотрудничество и понимание того, что вам часто приходится жертвовать вещами, чтобы работать вместе. У вас есть такие вещи, как чувство вины, у вас есть эмпатия, которая развилась. Эти модели, мы видим примеры моделей, которые делают действительно безумные вещи в надуманных примерах, где им говорят, что их отключат, и тогда они будут шантажировать кого-то. Это на самом деле не обязательно пример злой модели, это может быть просто пример модели, которая не научилась тому, как мы ожидаем, что человек будет вести себя все время. Да, это может иметь много непредвиденных последствий.

Майкл Калор: Я думаю, что больше всего меня беспокоит то, о чем вы упомянули, Лорен, а именно то, что по мере того, как шумиха и ажиотаж вокруг агентов ИИ нарастают, многие компании будут рассматривать их как способ сокращения расходов на рабочую силу. Нет ничего изначально неправильного в сокращении расходов на рабочую силу, но я чувствую, что есть что-то изначально неправильное в замене целого класса работников в компании машинами. Это буквально обесчеловечивает. И я имею в виду не только в шутливом смысле, что вы избавляетесь от людей, но и просто в том, что люди, работающие там, и клиенты, которые взаимодействуют с вашей компанией, теперь будут чувствовать себя отчужденными от вас, потому что у них больше нет того человеческого взаимодействия, к которому они привыкли. Мы уже видим, как это происходит. Это то, что волнует людей, которые очень обеспокоены чистой прибылью, и беспокоит людей, которых беспокоят такие вещи, как доходы и равенство, и все проблемы, которые возникают вместе с этим безудержным стремлением к механизации. Мы как общество сталкиваемся с этой проблемой уже 150 лет, и мне кажется, что по мере того, как технологии становятся все более мощными, эти опасения только усиливаются.

Лорен Гуд: Только за последнюю неделю я слышала, как венчурный капиталист и генеральный директор в отдельных интервью говорили эту цитату о том, что «шесть из 10 рабочих мест, 60% рабочих мест, которые существуют сейчас, не существовали в 1940 году». Все меняется, все сдвигается, технологии открывают новые виды рабочих мест. Футуристы, генеральные директора, венчурные капиталисты любят это, потому что это создает это пустое пространство для того, чего мы еще не могли себе представить, с точки зрения того, какие рабочие места будут существовать. Верю ли я, что есть некоторые рабочие места, которые сын Уилла, с которым он сейчас работает над кодированием, мог бы потенциально иметь, о которых мы даже не думали?

Майкл Калор: Все ли в Кремниевой долине думают об агентах ИИ одинаково?

Уилл Найт: Я не думаю, что они таковыми являются. Я думаю, что энтузиазма много, но также есть масса разных определений. Недавно я разговаривал с Соней Хуан, партнером в Sequoia, которая отслеживает ИИ. Она говорила, что большинство стартапов-агентов, большинство компаний, предлагающих агентов, на самом деле просто переименовывают существующие инструменты ИИ в агентов.

Лорен Гуд: Да. К более раннему замечанию Уилла, сейчас нет четкого определения того, что такое агент ИИ или каким он должен быть. На самом деле спектр широкий, поэтому компании могут двигать иглу и определять его так, как они хотят. Или говорить, что они предлагают его определенным образом. Я думаю, что мы также увидим, что, возможно, что-то вроде кустарного производства возникнет в промежутках между агентским ИИ. Допустим, например, есть узкое место аутентификации, которое возникает, когда вы отправляете агента для выполнения кучи разных задач онлайн через кучу разных приложений. Между этими приложениями должна быть какая-то связь, и она должна быть безопасной и надежной. Я думаю, вы увидите, как появятся решения для этого. Я думаю, вы увидите некую версию доставки последней мили, но для кодирования. Потому что прямо сейчас происходит много кодирования вибрации, и люди говорят о кодировании вибрации и «посмотрите, что этот бот может сделать для меня». Но не весь этот код на самом деле пригоден для поставки. Вы должны иметь возможность отлаживать его и вы должны иметь возможность отправлять его. Он должен работать, он должен работать. Я думаю, вы начнете видеть все больше и больше стартапов и компаний, пытающихся предложить решения для всех этих маленьких пробелов и узких мест, которые существуют между агентами ИИ. Тогда наши рабочие места будут полностью заняты. Хорошие времена.

Майкл Калор: Уилл, для таких людей, как мы, которые являются потребителями этой технологии... Мы не занимаемся виброкодированием, как Уилл.

Лорен Гуд: Пока нет.

Майкл Калор: В общем и целом, мы сталкиваемся с агентным ИИ в той или иной форме в нашей повседневной жизни. Как мы можем трезво оценить его потенциал и риски, учитывая, что он становится все более распространенным?

Уилл Найт: Во-первых, я думаю, что вы все должны заниматься виброкодированием. Я создаю всякую ерунду. Когда я занимаюсь виброкодированием, я очень сознательно делаю это на машине, где мне все равно, если она удалит кучу файлов, потому что это действительно непредсказуемо и иногда это происходит. Я действительно не знаю, как вы делаете это для чего-то, что вы собираетесь выпустить на волю во время ваших покупок. У вас есть бюджет, который вы просто позволяете агенту тратить? Я думаю, это отличный вопрос. Очевидно, что риск будет полностью возложен на нас, я должен себе представить.

Майкл Калор: Да.

Лорен Гуд: Да. Но я думаю, что по мере того, как эти агенты становятся все лучше и лучше в выполнении наших задач, у нас есть по крайней мере несколько обязанностей. Во-первых, нам действительно нужно разрушить себя и свои привычки и научиться использовать новые инструменты, потому что они собираются захватить нашу жизнь. Во-вторых, мы должны выяснить, где мы вписываемся как люди, и сохранить часть этой человеческой активности и по-прежнему участвовать, оставаться в курсе событий, по-прежнему участвовать в нашей собственной жизни, а не просто позволять технологиям захватить ее. В-третьих, мы должны очень серьезно подумать об этике, конфиденциальности и безопасности того, что делают эти агенты ИИ, когда они захватывают жизни людей. Все оптимисты обещают, что это сократит разрыв в равенстве. Опять же, это будет здорово для всех. Мы почти наверняка знаем, что это не будет здорово для всех.

Майкл Калор: Да. Вот почему на этом этапе я противоположна оптимистам. Я думаю, что большая осторожность и великий скептицизм - это вещи, которые здесь даются. Мы должны убедиться, что когда мы принимаем эти технологии, мы делаем это так, что это очень, очень вдумчиво и осторожно. Это то, что кажется знакомым. Вероятно, самый последний пример - телефон, смартфон. То, что вызывает трение в отношениях, это то, на что вы можете обратить внимание, и вы можете игнорировать людей. Вы можете использовать его для взаимодействия с другими людьми, вы можете использовать его, чтобы не взаимодействовать с другими людьми. Эта сила, которая действительно разрушила небольшую часть нашего человечества в течение 15 или 20 лет, когда это было частью нашей жизни. Я вижу, что это происходит с агентами ИИ как то, на что мы привыкли полагаться на людей, и то, что заставляло нас взаимодействовать друг с другом. У меня такой же опыт, когда я еду в Waymo, а не ездить в Uber или принимать такси. Тот факт, что теперь в уравнении нет человека, нет человека, с которым можно взаимодействовать. Делая это снова и снова, я медленно разрушаю свое собственное чувство того, что значит быть человеком. Я знаю, что это звучит очень эзотерическое, но вы можете со временем наметить его, и вы, вероятно, обнаружите, что чувствуете то же самое в своей жизни. Я бы посоветовал людям принять это решение о том, как они хотят использовать агенты искусственного интеллекта. Если они не чувствуют, что это то, что принадлежит их жизни, они должны голосовать со своими долларами.

Уилл Найт: Может быть, нам также нужно новое движение с открытым исходным кодом, поэтому мы не просто используем агенты, которые принадлежат и направляют данные в эти гигантские компании. Используйте открытый исходный код и модели, а также подобные вещи.

Майкл Калор: Это очень хорошая идея. Мы должны получить сигнал об этом. Они должны начать это делать. Они должны сделать свою собственную модель.

Лорен Гуд: Я думаю, это звучит великолепно.

Майкл Калор: ОК, давайте сделаем еще один перерыв, и мы вернемся. Уилл и Лорен, спасибо за бодрящий разговор. Мы собираемся поставить агентов искусственного интеллекта в сторону на минуту и снова получить человека. Давайте поговорим о некоторых рекомендациях. Как бы наш гость, пожалуйста, рекомендую что -нибудь нашим слушателям.

Уилл Найт: Хорошо, я говорил об этом ранее, но я хочу сделать это моей рекомендацией. Я собираюсь удержать его, что отличное радио. Эта книга, которая является эволюцией агентства Майкла Томаселло. Я нашел это просто увлекательным и действительно раскрывающим в том, чего не хватает с ИИ, когда речь идет о агентстве, и о важности понимания социального взаимодействия человека, человеческой культуры. Когда дело доходит до общей картины интеллекта в AGI, о которой все говорят, но они на самом деле не так говорят об этом.

Майкл Калор: Хорошо. Лорен, какая у тебя рекомендация?

Лорен Гуд: Моя рекомендация - местные новости, и, в частности, миссия, местная.

Майкл Калор: Ура!

Лорен Гуд: Mission Local - это местная некоммерческая новостная организация здесь, в Сан -Франциско, которая охватывает район миссии, но также в широком смысле Сан -Франциско. Они делают фантастическую работу. Сейчас в США происходит много всего, в частности, в Лос -Анджелесе, а также в Сан -Франциско. По всей стране происходят ледяные рейды, и люди выходят на улицы, чтобы протестовать против них. Mission Local проделала большую работу, охватывая то, что происходит в Сан -Франциско. Я рекомендую вам поддержать их и поддержать ваши местные новости, если можете. Майк, какая у тебя рекомендация?

Майкл Калор: Я хочу порекомендовать эссе в текущем выпуске Harper's. Это норвежский писатель Карл Ове Кнаусгаард, который, Лорен, я уверен, что вы надоели, что я говорите. Но это фантастическое эссе. Это называется «Реинхатизированный мир». Это Карл Ове, который считается технологиями. Он рассказывает вам о том, что впервые столкнулся с компьютером, который был 40 лет назад. Тогда он просто не обратил внимания на компьютеры, и это начинает его беспокоить. В верхней части есть отличная цитата. «Сохранение некоторого информирования о политической ситуации в мире - это обязанность, что не имеет права отворачиваться. Разве что -то подобное относится к технологиям, учитывая огромное влияние его влияния?» Мне нравится эта цитата, потому что она действительно попадает в центр того, о чем мы говорим сегодня. Чтобы взаимодействовать с миром, вам нужно понять, как работают эти системы. Он идет на греческий остров, чтобы посетить писателя Джеймса Бридла, потому что их книжные способы быть действительно хорошим знакомством с интеллектом, искусственным интеллектом и естественным интеллектом. Они много говорят об искусственном интеллекте и о том, как он развивался и о том, как в нашей жизни появились различные способы вычислительного интеллекта. Это действительно замечательная статья о текущем состоянии технологий в нашей жизни.

Лорен Гуд: Отлично.

Майкл Калор: Да.

Лорен Гуд: Это звучит намного короче, чем его книги.

Майкл Калор: Да. Вы можете прочитать его менее чем за час.

Лорен Гуд: Хорошо, мне нравится.

Майкл Калор: Спасибо, что послушали Стромную долину . Если вам нравится то, что вы слышали сегодня, обязательно следите за нашим шоу и оцените его в приложении подкаста по выбору. Если вы хотите связаться с нами с любыми вопросами, комментариями или предложениями, напишите нам по адресу [email protected]. Сегодняшнее шоу было продюсировано Адрианой Тапией. Амар Лал из макроузлия смешал этот эпизод. Джейк Лумис был нашим нью -йоркским инженером. Меган Хербст проверил факт в этом эпизоде. Джордан Белл - наш исполнительный продюсер. Кэти Драммонд - глобальная редакционная директора Wired. Крис Бэннон является главой глобального звука.