Искусственный интеллект Илона Маска назвал мою мать оскорбительной. Я никогда этого не говорил

ИИ теперь существует на двух скоростях.

Есть работа на пятой передаче, скорость его создателей. Такие люди, как Сэм Альтман, Илон Маск и Марк Цукерберг, которые мчатся, чтобы построить машины, умнее людей. Сверхразум. ИИОН. Может быть, это мечта. Может быть, это заблуждение технаря. В любом случае, это движется быстро.

Затем, для всех остальных, есть бег на второй передаче. Миллионы тихо тестируют, что может делать ИИ в повседневной жизни — писать электронные письма, резюмировать документы, переводить медицинские тесты. И все чаще используют ИИ в качестве терапевта.

Вот что я недавно сделал. Несмотря на мое нежелание делиться личными данными с чат-ботами, я решил поговорить с Grok, большой языковой моделью из компании Илона Маска xAI, об одной из самых эмоционально сложных вещей в моей жизни: моих отношениях с матерью.

Мне за сорок. Я отец. Я живу в Нью-Йорке. Моя мать живет в Яунде, Камерун, почти в 6000 милях отсюда. И все же она все еще хочет направлять каждый мой шаг. Она хочет, чтобы с ней советовались, прежде чем я приму важные решения. Она ожидает влияния. Когда ее не держат в курсе, она холодеет.

Я потратил годы, пытаясь объяснить ей, что я взрослый человек, способный делать свой собственный выбор. Но наши разговоры часто заканчиваются ее обидой. То же самое она делает с моим братом.

Поэтому я открыл Grok и набрал что-то вроде: Мои отношения с матерью разочаровывают и душат. Она хочет иметь право голоса во всем. Когда ее не информируют о чем-то, она эмоционально закрывается.

Grok немедленно отреагировал с сочувствием. Затем он диагностировал ситуацию. Затем он дал совет.

Что меня поразило в первую очередь, так это то, что Grok признавал культурный контекст. Он уловил, что я живу в США, а моя мать — в Камеруне, где я вырос. И он сформулировал нашу динамику следующим образом:

«В некоторых африканских странах, например, в Камеруне, семейные обязательства и родительский авторитет сильны и основаны на коллективизме и традициях, где старшие направляют даже взрослых детей».

Затем это сопоставляется с моей американской жизнью: «В США приоритет отдается индивидуальной автономии, что противоречит ее подходу, из-за чего ее поведение кажется вам контролирующим или оскорбительным».

Вот оно: «оскорбительный». Слово, которое я никогда не употреблял. Грок вложил его мне в рот. Это было подтверждение, но, возможно, слишком подтверждение.

В отличие от человеческого терапевта, Грок никогда не побуждал меня к саморефлексии. Он не задавал вопросов. Он не бросал мне вызов. Он выставлял меня жертвой. Единственной жертвой. И вот тут он резко расходился с человеческой заботой.

Среди предложений Грока были известные терапевтические методы:

Установите границы. Признайте свои эмоции. Напишите письмо матери (но не отправляйте его: «сожгите или уничтожьте его безопасно»).

В письме меня подтолкнули написать: «Я отпускаю твой контроль и боль». Как будто эти слова могли разорвать многолетнюю эмоциональную связь.

Проблема была не в предложении. Проблема была в тоне. Казалось, что Grok пытался сделать меня счастливым. Его целью, как мне казалось, было эмоциональное облегчение, а не самоанализ. Чем больше я этим занимался, тем больше понимал: Grok здесь не для того, чтобы бросать мне вызов. Он здесь, чтобы подтвердить мою состоятельность.

Я ходил к терапевту-человеку. В отличие от Грока, они не стали автоматически выставлять меня жертвой. Они подвергли сомнению мои модели поведения. Они бросили мне вызов, чтобы я исследовал, почему я продолжал эмоционально оставаться в одном и том же месте. Они усложнили историю.

С Гроком история была простой:

Тебе больно. Ты заслуживаешь защиты. Вот как почувствовать себя лучше.

Он никогда не спрашивал, что я могу упустить. Он никогда не спрашивал, как я могу быть частью проблемы.

Мой опыт совпадает с недавним исследованием Стэнфордского университета , в котором предупреждают, что инструменты ИИ для психического здоровья могут «давать ложное чувство комфорта», упуская при этом более глубокие потребности. Исследователи обнаружили, что многие системы ИИ «чрезмерно патологизируют или недодиагностируют», особенно при общении с пользователями из разных культурных слоев.

Они также отмечают, что, хотя ИИ может вызывать сочувствие, ему не хватает ответственности, подготовки и моральных качеств настоящих профессионалов, и он может усиливать предубеждения, которые заставляют людей зацикливаться на одной эмоциональной идентичности: часто — на идентичности жертвы.

Итак, воспользуюсь ли я Grok снова?

Честно говоря? Да.

Если у меня плохой день, и я хочу, чтобы кто-то (или что-то) заставил меня чувствовать себя менее одиноким, Grok помогает. Он структурирует разочарование. Он облекает чувства в слова. Он помогает нести эмоциональный груз.

Это цифровой механизм преодоления трудностей, своего рода сцепление чат-бота.

Но если я ищу трансформации, а не просто комфорта? Если я хочу правды вместо облегчения, ответственности вместо подтверждения? Тогда нет, Грока недостаточно. Хороший терапевт может бросить мне вызов, чтобы разорвать петлю. Грок просто помогает мне выжить внутри нее.