Вот почему чат-бот Грок Илона Маска был одержим идеей геноцида белых

Технологии

Послушайте аудиоверсию статьи

Четыре дня назад Grok, чат-бот на основе искусственного интеллекта, разработанный xAI, одной из компаний, основанных Илоном Маском, начал демонстрировать признаки дисбаланса, отвечая на вопросы пользователей, поднимая тему геноцида белых или предполагаемых преследований белых людей в Южной Америке. Это теория заговора, родившаяся в крайне правых кругах, согласно которой после окончания апартеида белые, африканеры, потомки бывших колонистов, подверглись жестоким преследованиям. В сети появилось множество скриншотов, предоставленных журналистом-расследователем Ариком Толером. Поскольку Южная Африка является родиной Илона Маска, «странности» Грока быстро стали вирусными. Вчера xAI, также работающий на X, объяснил аномальное поведение чат-бота. С

Мы хотим сообщить вам об инциденте, который произошел с нашим ботом-ответчиком Grok

14 мая примерно в 3:15 утра по тихоокеанскому времени в запрос бота-ответчика Grok на X было внесено несанкционированное изменение. Это изменение предписывало Grok предоставить…

— xAI (@xai) 16 мая 2025 г.

Как говорится в сообщении, причиной навязчивой идеи является «несанкционированное изменение подсказки бота Grok на X». Это изменение, которое потребовало от Грока предоставить конкретный ответ на политическую тему, нарушило внутреннюю политику и основные ценности xAI. Затем компания Маска провела тщательное расследование и пообещала принять меры по повышению прозрачности и подотчетности Grok, а также опубликовать подсказки Grok на сайте GitHub, чтобы любой желающий мог с ними ознакомиться и оставить отзыв о внесенных изменениях. Также было заверено, что будет создана круглосуточная группа мониторинга для реагирования на инциденты с использованием средств реагирования Grok.

Больше всего экспертов поразил новый факт, подтверждающий, что эти системы подвержены не только системным проблемам или компьютерным ошибкам, но и манипуляциям со стороны пользователей.