Yapay Zeka: Çin "ulusal güvenlik riskleri" konusunda uyardı

Çin Devlet Güvenlik Bakanlığı, yapay zekânın (YZ) kötüye kullanılmasıyla ilgili riskler konusunda uyarıda bulunarak, bu teknolojinin toplumsal istikrarı, hassas verilerin korunmasını ve ulusal güvenliği tehdit edebileceği uyarısında bulundu.

Bakanlık, sosyal paylaşım sitesi WeChat'te yayımladığı açıklamada, yapay zekanın ekonomik ve sosyal kalkınma açısından faydalarını kabul etti ancak yapay zekanın uygunsuz kullanımının dezenformasyon ve diğer zararlı faaliyetlerin yayılmasını kolaylaştırabileceğini vurguladı.

Çinli yetkililer, derin öğrenme algoritmalarını sahte görüntü, ses veya videolarla birleştiren, manipüle edilmiş içerik üretebilen yapay zeka sistemlerinin, yabancı kuruluşlar tarafından Çin halkı arasında "huzursuzluk çıkarmak" için kullanılabileceğini söyledi.

Ultra gerçekçi içerik üretim tekniklerinin film, reklam ve video oyunu sektörlerinde meşru uygulamaları olmasına rağmen bakanlık, bunların yasadışı kullanımının bireysel hakları ihlal edebileceği ve "kamuoyunu karıştırmak" için kullanılabileceği konusunda uyardı.

Açıklamada ayrıca, üretken yapay zeka sistemlerinin hassas kişisel verileri toplama, depolama ve hatta ifşa etme yeteneğine sahip olduğu ve bu verilerin yabancı istihbarat servisleri tarafından Çin'de "yıkıcı, sızma ve sabotaj faaliyetleri" yürütmek için kullanılabileceği vurgulanıyor.

Bir diğer endişe verici nokta ise ideolojik önyargılarla manipüle edilen algoritmaların “ taraflı ideolojilerin ” yayılmasına hizmet edebilmesidir.

Güvenlik Bakanlığı, halkı, bilginin " doğruluğunu ayırt etme " yeteneğini güçlendirmeye çağırdı ve yapay zekanın kullanımında yetkililer tarafından belirlenen ilkelere uyulmasının sağlanması gerektiğini yineledi.

Çin, 2023 yılından bu yana yapay zekâ servislerine yönelik düzenlemeler getirerek, bu platformların "temel sosyalist değerlere" saygı göstermesini zorunlu kılıyor ve ulusal güvenliği, toprak birliğini ve toplumsal istikrarı baltalayan içeriklerin üretilmesini yasaklıyor.

Ülkedeki yapay zeka sektörünün Alibaba, DeepSeek, Tencent ve Bytedance gibi şirketler tarafından geliştirilen sohbet robotlarıyla hızla büyümesine rağmen, devlet sansürünün yoğun olarak uygulandığı bir ortamda bu teknolojilerin uygulanması ve etkinliği konusunda şüpheler devam ediyor.

Devlet Güvenlik Bakanlığı, casusluk vakalarını kamuoyuna duyurmak ve vatandaşları dikkatli olmaya çağırmak için resmi WeChat hesabını sık sık kullanıyor; özellikle yurt dışından gelen şüpheli iş tekliflerine karşı dikkatli olmaları ve gizli bilgileri çevrimiçi ortamda paylaşmaktan kaçınmaları konusunda onları teşvik ediyor.

Bakanlık, 2023 yılında toplumun tamamının “casusluğun önlenmesi ve mücadele edilmesi” için seferber edilmesi çağrısında bulunarak, “yabancı istihbarat faaliyetlerine” karşı “milli savunmanın güçlendirilmesi”ni amaçlayan tedbirleri açıkladı.