China waarschuwt voor ‘risico’s voor de nationale veiligheid’ door AI

Het Chinese ministerie van Staatsveiligheid waarschuwde woensdag voor de risico's die gepaard gaan met het misbruik van kunstmatige intelligentie (AI) . Het ministerie waarschuwde dat de technologie de maatschappelijke stabiliteit, de bescherming van gevoelige gegevens en de nationale veiligheid in gevaar kan brengen.

In een verklaring op het sociale netwerk WeChat erkende het ministerie de voordelen van AI voor de economische en sociale ontwikkeling, maar benadrukte het dat oneigenlijk gebruik ervan de verspreiding van desinformatie en andere schadelijke activiteiten in de hand kan werken .

De Chinese autoriteiten hebben gezegd dat AI-systemen die in staat zijn om gemanipuleerde inhoud te genereren – door deep learning-algoritmen te combineren met vervalste afbeeldingen, geluiden of video’s – door buitenlandse entiteiten gebruikt zouden kunnen worden om “onrust te zaaien” onder de Chinese bevolking .

Hoewel technieken voor het genereren van ultrarealistische content legitieme toepassingen hebben in de film-, reclame- en videogame-industrie, waarschuwde het ministerie dat illegaal gebruik ervan individuele rechten kan schenden en kan worden gebruikt om "de publieke opinie te verwarren".

In de verklaring wordt ook benadrukt dat generatieve AI-systemen in staat zijn om gevoelige persoonlijke gegevens te verzamelen, op te slaan en zelfs openbaar te maken, die door buitenlandse inlichtingendiensten gebruikt kunnen worden om “subversie-, infiltratie- en sabotageactiviteiten” uit te voeren in China.

Een ander punt van zorg zijn algoritmes die gemanipuleerd worden met ideologische vooringenomenheid, wat kan dienen om ‘bevooroordeelde ideologieën’ te verspreiden.

Het Ministerie van Veiligheid drong er bij de bevolking op aan om hun vermogen te versterken om de waarheidsgetrouwheid van informatie te onderscheiden en benadrukte nogmaals de noodzaak om ervoor te zorgen dat bij het gebruik van AI de door de autoriteiten vastgestelde principes worden gerespecteerd.

Sinds 2023 heeft China regels opgelegd aan kunstmatige-intelligentiediensten. Deze vereisen dat deze platforms 'fundamentele socialistische waarden' respecteren en verbieden het genereren van inhoud die de nationale veiligheid, territoriale eenheid en sociale stabiliteit ondermijnt.

Ondanks de snelle groei van de AI-sector in het land, met chatbots die zijn ontwikkeld door bedrijven zoals Alibaba, DeepSeek, Tencent en Bytedance , bestaan er nog steeds twijfels over de toepassing en effectiviteit van deze technologieën in een omgeving die sterk wordt gecontroleerd door staatscensuur.

Het Ministerie van Staatsveiligheid gebruikt regelmatig zijn officiële WeChat-account om spionagezaken bekend te maken en burgers aan te sporen waakzaam te zijn. Ook moeten ze op hun hoede zijn voor verdachte vacatures , vooral vanuit het buitenland, en moeten ze het delen van vertrouwelijke informatie online vermijden.

In 2023 riep het ministerie op tot de mobilisatie van de hele samenleving om ‘spionage te voorkomen en te bestrijden’ en kondigde het maatregelen aan die gericht waren op de ‘versterking van de nationale verdediging’ tegen ‘buitenlandse inlichtingenactiviteiten’.