ИИ: Китай предупреждает о «рисках национальной безопасности»

Министерство государственной безопасности Китая в среду предупредило о рисках, связанных со злоупотреблением искусственным интеллектом (ИИ), предупредив, что эта технология может угрожать социальной стабильности, защите конфиденциальных данных и национальной безопасности.

В заявлении, опубликованном в социальной сети WeChat, министерство признало преимущества ИИ для экономического и социального развития, но подчеркнуло, что его ненадлежащее использование может способствовать распространению дезинформации и другой вредоносной деятельности.

Китайские власти заявили, что системы искусственного интеллекта, способные генерировать манипулируемый контент — сочетающие алгоритмы глубокого обучения с фальсифицированными изображениями, звуками или видео — могут использоваться иностранными организациями для «провоцирования беспорядков» среди населения Китая.

Хотя методы создания ультрареалистичного контента имеют законное применение в киноиндустрии, рекламе и видеоиграх, министерство предупредило, что их незаконное использование может нарушать права личности и использоваться для «введения в заблуждение общественного мнения».

В заявлении также подчеркивается, что системы генеративного ИИ способны собирать, хранить и даже раскрывать конфиденциальные персональные данные, которые могут быть использованы иностранными разведывательными службами для осуществления «подрывной, инфильтрационной и диверсионной деятельности» в Китае.

Еще одним поводом для беспокойства являются алгоритмы, манипулируемые с идеологической предвзятостью, которые могут служить для распространения « предвзятых идеологий ».

Министерство безопасности настоятельно призвало население усилить свою способность « распознавать достоверность » информации и вновь заявило о необходимости гарантировать, что использование ИИ соответствует принципам, установленным властями.

С 2023 года Китай ввел правила для сервисов искусственного интеллекта, требуя от этих платформ уважать «основополагающие социалистические ценности» и запрещая создание контента, подрывающего национальную безопасность, территориальное единство и социальную стабильность.

Несмотря на быстрый рост сектора искусственного интеллекта в стране, где чат-боты разрабатываются такими компаниями, как Alibaba, DeepSeek, Tencent и Bytedance, сохраняются сомнения относительно применения и эффективности этих технологий в среде, жестко контролируемой государственной цензурой.

Министерство государственной безопасности часто использует свой официальный аккаунт WeChat для публикации случаев шпионажа и призывает граждан быть бдительными, опасаясь подозрительных предложений работы, особенно из-за рубежа, и избегая распространения конфиденциальной информации в Интернете.

В 2023 году министерство призвало к мобилизации всего общества для «предотвращения и борьбы со шпионажем» и объявило о мерах, направленных на «укрепление национальной обороны» против «деятельности иностранной разведки».