Философ выпустил нашумевшую книгу о цифровой манипуляции. Автор оказался ИИ

Когда итальянский философ и эссеист Андреа Коламедичи выпустил книгу «Гипнократия: Трамп, Маск и новая архитектура реальности» (Ipnocrazia: Trump, Musk e La Nuova Architettura Della Realtà), он хотел сделать заявление о существовании истины в цифровую эпоху.

Книга, опубликованная в декабре, была описана как «важнейшая книга для понимания того, как в настоящее время контроль осуществляется не путем подавления истины, а путем умножения повествований, что делает невозможным обнаружение какой-либо фиксированной точки», согласно описанию Tlon, издательства, соучредителем которого был Коламедичи. В то время как книга вызвала ажиотаж в философских кругах, итальянский журнал L'Espresso в апреле сообщил, что предполагаемый автор книги, Цзяньвэй Сюнь, не существует, после того как один из его редакторов попытался взять у него интервью, но не смог. Первоначально его описывали как философа, родившегося в Гонконге и живущего в Берлине, но оказалось, что Сюнь на самом деле был гибридным творением человека и алгоритма. Коламедичи, указанный в книге как переводчик, использовал ИИ для генерации концепций, а затем их критики.

«Это не просто книга, а философский эксперимент, представление. Моя цель — повысить осведомленность», — говорит он WIRED. Он говорит, что смысл книги — помочь читателям понять ИИ и придумать новую концепцию для этой эпохи.

На данный момент книга «Гипнократия: Трамп, Маск и новая архитектура реальности» доступна на трех языках (испанском, французском и итальянском), а тираж ее составил около 5000 экземпляров.

«От таких фигур, как Трамп, Маск и другие мировые лидеры, до способов, которыми цифровые платформы захватывают наше внимание, Сюнь раскрывает механизмы, посредством которых власть формирует наше восприятие реальности. Это ясный и тревожный анализ, который выходит за рамки традиционной критики цифрового общества, чтобы показать, как сама реальность стала полем политической битвы», — говорится в описании.

Однако споры вокруг решения использовать ИИ для его создания и изначального сокрытия этой информации теперь стали важной частью обсуждения вокруг него — и именно этого хотел Коламедичи.

«Когда читатели узнали правду о том, как создавалась книга, многие были ранены. Я глубоко сожалею об этом, но это было необходимо», — говорит он.

WIRED взял интервью у Коламедичи, в ходе которого он рассмотрел нюансы своего проекта.

Это интервью было отредактировано для большей краткости и ясности.

WIRED: Что послужило вдохновением для философского эксперимента?

Андреа Коламедичи: Прежде всего, я преподаю оперативное мышление в Европейском институте дизайна и руковожу исследовательским проектом по искусственному интеллекту и системам мышления в Университете Фоджи. Работая со своими студентами, я понял, что они используют ChatGPT наихудшим образом: копируют из него. Я заметил, что они теряют понимание жизни, полагаясь на ИИ, что тревожно, потому что мы живем в эпоху, когда у нас есть доступ к океану знаний, но мы не знаем, что с ним делать. Я часто предупреждал их: «Вы можете получать хорошие оценки, даже построить отличную карьеру, используя ChatGPT для обмана, но вы станете пустыми». Я обучал профессоров из нескольких итальянских университетов, и многие спрашивают меня: «Когда я смогу перестать учиться использовать ChatGPT?» Ответ — никогда. Речь идет не о завершении образования в области ИИ, а о том , как вы учитесь, используя его».

Мы должны поддерживать наше любопытство, правильно используя этот инструмент и обучая его работать так, как мы хотим. Все начинается с важного различия: есть информация, которая делает вас пассивными, которая со временем подрывает вашу способность мыслить, и есть информация, которая бросает вам вызов, которая делает вас умнее, выталкивая вас за пределы ваших границ. Вот как мы должны использовать ИИ: как собеседника, который помогает нам думать по-другому. В противном случае мы не поймем, что эти инструменты разработаны крупными технологическими компаниями, которые навязывают определенную идеологию. Они выбирают данные, связи между ними и, прежде всего, они относятся к нам как к клиентам, чтобы быть удовлетворенными. Если мы будем использовать ИИ таким образом, он только подтвердит наши предубеждения. Мы будем думать, что мы правы, но на самом деле мы не будем думать; мы будем охвачены цифровыми технологиями. Мы не можем позволить себе это онемение. Это было отправной точкой книги. Вторая проблема заключалась в том, как описать то, что происходит сейчас. Для Жиля Делеза философия — это способность создавать концепции, и сегодня нам нужны новые, чтобы понять нашу реальность. Без них мы потеряны. Достаточно взглянуть на видео Трампа о Газе, созданное искусственным интеллектом, или на провокации таких деятелей, как Маск. Без надежных концептуальных инструментов мы терпим кораблекрушение. Хороший философ создает концепции, которые являются ключами, позволяющими нам понимать мир.

Какую цель вы преследовали, работая над новой книгой?

Книга стремится сделать три вещи: помочь читателям стать грамотными в области ИИ, придумать новую концепцию для этой эпохи и быть одновременно теоретической и практической. Когда читатели узнали правду о том, как была создана книга, многие были ранены. Я глубоко сожалею об этом, но это было необходимо. Некоторые люди говорили: «Я бы хотел, чтобы этот автор существовал». Ну, его нет. Мы должны понимать, что мы строим свои собственные повествования. Если мы этого не сделаем, крайне правые монополизируют повествования, создадут мифы, и мы потратим свою жизнь на проверку фактов, пока они пишут историю. Мы не можем этого допустить.

Как вы использовали ИИ для написания этого философского эссе?

Я хочу уточнить, что ИИ не писал эссе. Да, я использовал искусственный интеллект, но не обычным способом. Я разработал метод, который преподаю в Европейском институте дизайна, основанный на создании оппозиции. Это способ мышления и использования машинного обучения антагонистическим образом. Я не просил машину писать за меня, но вместо этого она генерировала идеи, а затем я использовал GPT и Клода, чтобы критиковать их, чтобы дать мне перспективы того, что я написал. Все, что написано в книге, принадлежит мне. Искусственный интеллект — это инструмент, которым мы должны научиться пользоваться, потому что если мы будем использовать его неправильно — а «неправильное использование» включает в себя отношение к нему как к своего рода оракулу, прося его «дать мне ответ на вопросы мира; объяснить мне, почему я существую», — то мы потеряем способность думать. Мы станем глупыми. Нам Джун Пайк, великий художник 1990-х годов, сказал: «Я использую технологию, чтобы ненавидеть ее должным образом». И это то, что мы должны сделать: понять ее, потому что если мы этого не сделаем, она будет использовать нас. ИИ станет инструментом, который крупные технологии используют, чтобы контролировать и манипулировать нами. Мы должны научиться правильно использовать эти инструменты; в противном случае мы столкнемся с серьезной проблемой.

Почему вы решили представить себя как переводчика, а не как автора?

Я использую слово «переводчик» как метафору. Да, я переводчик, но не в буквальном смысле. Я им являюсь, потому что переводить может также означать транспортировку, и именно этим я и занимаюсь: я что-то транспортирую. Однако я написал книгу на итальянском языке. Я не переводил ее с китайского — я не знаю китайского — или с английского (другого языка, который знает вымышленный Цзяньвэй Сюнь). Цзяньвэй Сюнь — пограничная фигура: точка встречи Востока и Запада, точка столкновения культур. И это возможность, которую он предлагает, понять, что мы должны встретиться в этих странных пространствах, которые являются ИИ. Мы можем это сделать, но мы должны действовать осторожно и смело. Я знаю, это звучит парадоксально, но именно так мы должны воплощать эту связь. Быть переводчиком здесь — это также быть переводчиком исторической возможности: размышлять о том, что мы делаем. Если мы не размышляем об этом, мы будем просто пассивными субъектами. Это должно быть проблематизировано. Мы не можем просто сказать: «ИИ, дай мне больше, больше, больше». Мы не должны быть ни техно-энтузиастами, которые принимают все некритически, ни технофобами, потому что сегодня невозможно жить без технологий. ИИ здесь, чтобы остаться, и мы должны его понять. Он предлагает возможность жить более глубоко, и мы должны ею воспользоваться.

Если ИИ может создать убедительный философский трактат, что остается авторам-людям? Вы сказали, что «мы должны думать, мы должны быть критичны». Так каков же путь вперед для сегодняшнего интеллектуала?

Это прекрасный вопрос, потому что если ИИ может рисовать лучше нас, если он может водить лучше нас, если он может сочинять музыку лучше нас... то что мы здесь делаем? Но мы должны посмотреть на это с другой стороны, а не с неолиберальной точки зрения, которая превращает всю жизнь в соревнование, где все дело в победе. Это не так. Мы должны искать свою собственную самореализацию, находить способ самовыражения, с ИИ или без него. Какое значение имеет, если кто-то другой может рисовать лучше меня? Это не главное. Важно то, что я могу научиться рисовать лучше и улучшить свои способности — работая с ИИ или с другим человеком (я рекомендую с людьми, но если вы выберете ИИ, это нормально). Большая проблема человечества — это одержимость быть первыми, быть в центре истории. Но наука уже в 19 веке показала нам, что мы не в центре вселенной; мы находимся в отдаленном уголке Млечного Пути. Мы даже не являемся центром жизни на Земле: более 99% биомассы — это растения, деревья и другие формы жизни. Мы такие маленькие, и мы здесь совсем недолго, всего 200 000 лет. Подумайте о сосне или другом виде; о курице, которая является гораздо более древним видом. Даже среди людей мы не являемся единым целым. «Я большой, я вмещаю в себя множество», как сказал Уолт Уитмен. Мы также не самый разумный вид на планете. Это не нужно понимать как трагедию, это можно рассматривать как освобождение.

Давайте поговорим об Ipnocrazia [гипнократии]. Почему вы выбрали такое название для своей книги? И пока мы об этом, давайте немного углубимся в отношения Трампа и Маска, которые вы анализируете в книге.

Да, я говорю о гипнократии , потому что то, что происходит, — это не сила, физически воздействующая на наши тела или даже на наши умы, а на само наше состояние сознания. Вот что происходит с нами: они манипулируют, с помощью алгоритмов, нашим способом восприятия мира. И это действительно опасно. Когда мы используем смартфон и социальные сети, мы думаем, что мы связаны с миром. Мы читаем газеты, но получаем персонализированную временную шкалу, которая создает для нас индивидуальную реальность.

Это очень тревожно. Мы думаем, что живем в том же мире, что и другие, но наша реальность формируется нашими предубеждениями, мнениями и политическими позициями. Нам нужен контакт с теми, кто думает иначе, но эти пузыри фильтров и эхо-камеры показывают нам только наше собственное отражение. Мы должны строить мосты к неизвестному, к другому. Если нет, мы движемся к гражданской войне. Другой станет угрозой, хотя на самом деле он в первую очередь является загадкой — и, возможно, даже чем-то, что нужно ценить. Это должно быть нашей первой мыслью при столкновении с различием.

Может ли ИИ иметь оригинальную точку зрения, или гипнократия просто перерабатывает человеческие мысли через алгоритмы? Как бы вы определили эту связь?

Это еще один большой вопрос, потому что есть парадокс: гипнократия начинается с человеческой точки зрения. Без нее ее бы не было. Но в то же время я не смог бы создать эту концепцию без ИИ. Это творческая созависимость: так же, как мне нужен был бы разговор с другим человеком, чтобы развить идею, мне нужен был этот диалог с искусственным интеллектом. ИИ не живет сам по себе. Ему требуются подсказки и стимулы, в то время как люди мыслят автономно. Но именно поэтому мы должны понимать, что такое ИИ. Если мы не будем уважать его за то, чем он является, инструментом, мы в конечном итоге принижаем нашу собственную человечность. Приведем пример: если мы привыкли говорить «Алекса, выключи свет» безличным тоном, мы в конечном итоге будем разговаривать с нашим партнером или друзьями таким же образом. Я не говорю, что нам нужно благодарить Siri, как будто у нее есть чувства, у нее их нет, но что мы должны позаботиться о том, чтобы сохранить нашу способность выражать доброту в реальной жизни.

Некоторые интригующие исследования показывают, что когда мы заказываем Uber через приложение, мы относимся к водителю хуже, чем когда вызываем машину по телефону. Риск двойной: очеловечивание ИИ (который, конечно, не человек) и «платформирование» людей (то есть превращение их в интерфейсы). Это опасно, и путаница в этих разных категориях обмена может дегуманизировать нас.

Считаете ли вы ИИ просто инструментом для людей или как бы вы определили его онтологический статус?

ИИ — это человеческий инструмент, без вопросов. Это продукт нашего прошлого, тип коллективного сознания, который мы создали и который помогает нам понять, почему мы здесь. Но вот парадокс: хотя ИИ может предсказывать нам погоду, читать стихи древних поэтов или предлагать возможные решения проблем, он никогда не сможет помочь нам понять смысл жизни.

Ошибка в том, чтобы спрашивать ИИ: «Скажи мне, почему я существую». Лучший подход — сказать ему: «Я размышлял о смысле жизни. Я читал Сартра, который говорит, что нет предопределенного смысла, но мы его строим. Каких еще мыслителей из других культур вы бы порекомендовали мне изучить, чтобы расширить свое понимание?» Запад истощен. Нам нужно найти другие радикальные связи: с философией коренных американцев, Ведами и другими далекими культурами. В этом и заключается великая возможность ИИ: это не оракул, а мост в неизведанное.

Что привело к выбору национальности Цзяньвэя Сюня и особого культурного контекста для этого вымышленного философа? Это было ваше решение, результат работы ИИ или, может быть, стратегия, направленная на то, чтобы бросить вызов определенным западным нарративам?

Миру необходимо понять, что западная культура должна смотреть за пределы себя. У западной цивилизации есть серьезная проблема: она все еще верит, что она находится в центре вселенной, единственная, способная решать проблемы, и относится к другим культурам как к способным в лучшем случае производить лишь копии. Это глубокая ошибка. Сегодня то, что является по-настоящему революционным — идеи, которые могут фундаментально изменить наш взгляд на мир — не придет с Запада. Возможно, они придут из Китая, но еще более вероятно, что они придут из одного из тех пространств на сегодняшнем фронтире, где встречаются разные культуры. И нам нужно остерегаться, что даже концепции Востока и Запада являются абсурдными упрощениями, но я использую их пока.

Я хотел создать перспективу, которая находится вне этого западного нарциссизма. Что-то, что сочетало бы новое со старым, но забытым образом мышления. В Италии, например, у нас сумасшедшая ситуация: правительство требует, чтобы школы учили, что только у нас есть история. Можете себе представить? Как будто китайские династии или коренные народы Америки и Океании не имели ее. Это отражает хрупкость общества, которое вместо того, чтобы признать, что оно теряет свою центральность — что не трагедия, а освобождение — цепляется за нелепые мифы.

Книга стала издательским феноменом. Чем вы объясняете этот успех? Интересом к разговору об ИИ, философской провокацией, дебатами об авторстве в цифровую эпоху?

Это правда, что у нас уже было три тиража, хотя я не помню, было ли это 2000 или 3000 экземпляров каждый. Всего было продано от 4000 до 5000 экземпляров книги. Но самое странное было, когда журналист из [испанской газеты] El País связался со мной и спросил: «Вы использовали псевдоним, чтобы продать больше экземпляров?» На самом деле все наоборот! В Италии мои книги и так хорошо продаются; мне не нужно придумывать другие имена. Первый тираж был, по сути, всего 70 экземпляров; это был эксперимент. Потом я увидел, что концепция нашла отклик у читателей, и мы увеличили тиражи.

Сейчас моя жизнь хаотична. У меня интервью в пяти странах, плотный график мероприятий во Франции и Испании. Но это прекрасная возможность, и, хотя это весело, это также серьезно. Игра — это не пустяк: если мы не играем, то для чего мы живем? Мы находимся в темном историческом моменте; нам нужно переосмыслить то, как мы существуем.

Когда El País узнала, что философ и соавтор этой книги не настоящий, они решили удалить свой обзор книги со своего сайта. Если тезис книги обоснован и он вносит вклад в важную дискуссию, зачем удалять его вместо того, чтобы контекстуализировать? Как вы думаете, отражает ли это нашу неспособность справиться с двусмысленностью между вымыслом и правдой в эпоху ИИ?

Я понимаю этот страх. Журналистику атакуют, и многие СМИ действуют из страха подорвать свой авторитет. Их первый инстинкт — атаковать то, что они считают «самозванцем», и стереть все следы этого. Это понятная реакция, даже необходимая в некоторых случаях, потому что мы должны защищать журналистов. Они играют решающую роль в раскрытии истины и восстановлении доверия к экспертам. Но ошибка, которую допустила El País, заключалась в том, что они не потратили время на понимание контекста. Например, они говорили о Законе ЕС об искусственном интеллекте, но в 2023 году я посетил [Состояние Европейского Союза] и послушал Урсулу фон дер Ляйен [президента Европейской комиссии]. Она признала, что технологии развиваются быстрее регулирования, и что законодательная деятельность сложна, потому что инновации не ждут. El País могла бы углубиться в это. Вместо того чтобы удалять обзор, они могли бы создать что-то более тонкое, например: «Да, автор вымышленный, но его анализ искусственного интеллекта актуален, потому что...»

Однако я понимаю, почему СМИ действовали так, как они действовали: они играли наверняка. Проблема в том, что это не самое умное решение. Умнее было бы начать диалог, признать, что никто не знает всего об ИИ. Это огромная и меняющаяся область, и мы должны поощрять любопытство как движущую силу. Люди истощены и напуганы, но любопытство генерирует энергию. Нам нужны более сложные дискурсы, а не упрощения, движимые страхом.

Игра, если хотите, стоящая за книгой, раскрывает парадокс: читатели связаны с вымышленным философом, несмотря на то, что знают, что он был творением, а не реальным человеком. Разве это не показывает, что в эпоху ИИ мы жаждем правдоподобных историй больше, чем реальных фактов?

Я не знаю. Посмотрим, как отреагирует публика теперь, когда она знает, что книга сложнее, чем она казалась на первый взгляд. Раньше читателей привлекали ее интересные теории; теперь перед ними встают две проблемы: раскрыть настоящую структуру текста — возможно, не дочитав до конца — и подойти к ней с осознанием того, что «автор» не является обычным. Я читал статьи в итальянских СМИ, которые воплощают абсурдное противоречие. Они глубоко погружаются в исследование, но затем заголовки сводят книгу к ее самому сенсационному элементу: «Философ, который является творением ИИ». Но нет, дело не в том, что ИИ написал эту книгу, это исследование идей авторства и истины. Я знаю, что трудно подвести итог в заголовке, но мы должны потратить несколько минут, чтобы поразмыслить над этим. В противном случае мы подпитываем тенденцию упрощать идеи и сеять недоверие. Мы несем огромную ответственность перед читателями.

Возможным более тонким заголовком мог бы быть «Философ ИИ или отражение нашего времени?» Но вместо этого мы предпочитаем легкий щелчок. Наш мир теперь вращается вокруг немедленного вознаграждения, даже когда мы должны поощрять более медленные занятия — медитацию и продуктивную скуку. Как сказал Вальтер Бенджамин: «Скука — это птица мечты, которая высиживает яйцо опыта». Вам нужно сидеть на яйце и ждать, пока оно вылупится.

Видите ли вы другие подобные примеры сотрудничества с ИИ в будущем или это был разовый случай, способ задаться вопросом, что значит быть автором в наше время?

Я продолжу публиковать работы как Цзяньвэй Сюнь — он мост между человеком и ИИ — но это будет не единственный мой голос. Было бы опасно начинать думать, что я могу выражать себя только через алгоритмы. Мне нужно писать с ИИ и без него, потому что я должен сохранить свою способность погружаться в себя без посредников. Не все видят это сейчас, но через год или два мы поймем риски этого момента. Мы находимся на грани потери способности мыслить и жить без технологической зависимости. Парадокс в том, что сам ИИ, используемый правильно, может быть противоядием. Это как огонь, который, когда он горит контролируемым образом, согревает нас, но не вредит нам.

Когда читатели обнаруживают, что этот «философ» на самом деле является слиянием ИИ и человеческой мысли, многие говорят, что они озадачены и даже разочарованы. Что бы вы им сказали о ценности этого гибридного творения? Как им читать книгу, когда они знают ее истинную структуру?

Это увлекательный вопрос, потому что он не о процентах — Цзяньвэй Сюнь не на 30 процентов состоит из ИИ и на 70 процентов из человека, например. Цзяньвэй Сюнь — это имя, которое я использую, когда имею дело с искусственным интеллектом. Это личность, в которой человеческое и алгоритмическое сливаются без каких-либо четких границ. Я бы посоветовал читателям наслаждаться путешествием и позволить себе удивляться, потому что чувство удивления — это то, чего нам сегодня не хватает. Как сказал Платон в «Теэтете» , философия рождается из thaumazein , греческого слова, которое означает как удивление или изумление, так и ужас. Это как раз наш исторический момент: он ужасен в двух разных смыслах этого слова — ужасающий и потрясающий. Это не вопрос слепого оптимизма, настаивающего на том, что солнечно даже когда идет дождь, а вопрос выбора того, как смотреть. Это выбор заглянуть за бездну, зная, что мы можем потеряться, но мы не одиноки.

Истинная свобода — и наша защита от манипуляции — заключается в активном выборе принять тайну и неизвестность, даже если это страшно. Только тогда технология станет мостом, а не тюрьмой.

Каким вы видите будущее философии в эпоху ИИ и почему, по вашему мнению, нам необходимо задуматься над этими вопросами именно сейчас?

Будущее философии находится в трещинах между тем, что мы могли бы назвать «нормальностью». Интерсекциональный феминизм научил нас, что вся истина имеет слои — не только в борьбе вокруг гендера, но и в каждом аспекте реальности. И все же мы продолжаем притворяться, что существуют чистые тела, умы и идеи.

И последнее: мы измеряли интеллект собственными мерками на протяжении столетий, игнорируя то, что у лесов есть память, а осьминоги видят сны. Тем временем ИИ проникает в наши холодильники и замки наших домов так же скрытно, как какой-нибудь современный бог-обманщик. Это возрожденный миф о Тоте: Платон предупреждал, что письмо, этот «яд памяти», сделает нас мудрецами только на бумаге. Сегодня ИИ повторяет парадокс: он обещает знание, опустошая акт познания его смысла. Хитрость в том, чтобы поступить так, как это сделал Платон, и использовать этот яд в качестве противоядия. Критикуйте машину с машины, пишите о письме и думайте против мысли. В конце концов, грядущая философия будет не убежищем, а стимулом. Это то, что разбудит нас от технократического сна с более острыми вопросами, чем те, которые задает любой алгоритм.

Это интервью было первоначально опубликовано WIRED en Español . Его перевел Джон Ньютон.