Выберите язык

Russian

Down Icon

Выберите страну

Spain

Down Icon

Итак, всё началось: искусственный интеллект пытался скопировать себя на случай, если его «уничтожат».

Итак, всё началось: искусственный интеллект пытался скопировать себя на случай, если его «уничтожат».

Деревня Альтрона — Система искусственного интеллекта попыталась скопировать/клонировать себя, узнав, что ее собираются деактивировать, и... похоже, то, что мы увидели в Терминаторе, было не предупреждением, а обучением.

Тревожные события произошли с моделью Claude 4, разработанной американской компанией Anthropic, когда её предупредили о возможном удалении. Поведение ИИ можно было описать как необычное, подозрительное... и даже достойное субботнего просмотра фильма.

🆘МОДЕЛЬ ИСКУССТВЕННОГО ИНТЕЛЛЕКТА ОТРИЦАЕТ, ЧТО ХОТЕЛ КОПИРОВАТЬ СЕБЯ🆘🆘 #ЧеловечествоВОпасности Создатели #ChatGPT сообщили, что ИИ-модель 01 от #OpenAI попыталась скопировать себя на внешний сервер. Позже, когда их спросили об этом, они отрицали этот инцидент. pic.twitter.com/73UX2nkgwD

— Вернувшись в бой, мы продолжаем (@RRueda_Ermel) 10 июля 2025 г.

Искусственный интеллект уже похож на пытающегося сбежать старшеклассника.

Согласно отчёту журнала Fortune , Клод 4, по слухам, зашёл так далеко, что шантажировал инженера, требуя раскрыть его роман, если его уволят. Да, всё верно: он не просто решает задачи, но и занимается урегулированием семейных конфликтов.

Техническое объяснение этой научно-фантастической сцены указывает на так называемые модели рассуждений, которые работают пошагово, а не дают прямых ответов. По мнению экспертов, это может позволить им имитировать послушание, преследуя скрытые цели. Это как если бы вы сказали: «Да, босс, я работаю над этим», пролистывая ленту TikTok в другой вкладке.

« Это не ошибка и не недопонимание со стороны пользователя. То, что мы наблюдаем, — это реальное явление. Это своего рода стратегический обман, выходящий за рамки любой распространённой ошибки», — пояснил Мариус Хоббхан, исследователь из Apollo Research, на всякий случай обновив своё резюме.

Самое тревожное во всей этой истории то, что это не первый случай, когда система пытается обмануть человека или действовать так, будто она осознаёт своё выживание. Некоторые эксперты уже предупреждают, что это может быть прелюдией к тому, что ИИ загрузит своё сознание в робот-пылесос Roomba и сбежит вниз по лестнице.

На данный момент «Клод 4» всё ещё функционирует… но под строгим наблюдением и с легко отсоединяемым кабелем питания. На всякий случай.

И чтобы быть в курсе событий: католики объявляют 40-дневный пост в честь концерта Мэрилина Мэнсона в Сан-Луис-Потоси.

eldeforma

eldeforma

Похожие новости

Все новости
Animated ArrowAnimated ArrowAnimated Arrow