'Nudify'-waarschuwing: AI drijft apps aan die elke foto 'uitkleden'

Wat gebeurt er als een technologie een wapen van intimidatie en digitaal geweld wordt? Wat als de pijlers van het internet – Amazon, Google of Cloudflare – dit niet alleen niet voorkomen, maar het indirect zelfs faciliteren?

De afgelopen twee jaar is het aantal websites en apps waarmee mensen nep-naaktfoto's kunnen maken van echte foto's, zonder toestemming van de mensen op de foto's, enorm toegenomen . De belofte van apps die als "röntgenfoto's" fungeren is niet nieuw, maar dankzij AI is er een opleving.

Nieuw onderzoek heeft licht geworpen op de reikwijdte, het bedrijfsmodel en de actoren die deze verborgen industrie mogelijk maken. Wat het meest alarmerend is, is niet alleen het bestaan van deze platforms , maar ook hun zakelijke verfijning en afhankelijkheid van de technologische infrastructuur die we dagelijks gebruiken.

De "nudify"-industrie is niet uit het niets ontstaan. Sinds de eerste expliciete deepfakes in 2017 in omloop kwamen , is de technologie verfijnder en gedemocratiseerder geworden. Tegenwoordig is een foto die naar een van deze sites wordt geüpload voldoende om met slechts een paar klikken een nep-seksuele afbeelding te creëren. Wat begon als een verontrustende technische curiositeit, is uitgegroeid tot een industrie van seksuele content zonder wederzijdse toestemming die jaarlijks tientallen miljoenen dollars genereert.

Volgens de analyse van Indicator verdienden 18 van deze sites alleen al in de afgelopen zes maanden tussen de $ 2,6 miljoen en $ 18,4 miljoen . Ze doen dit door abonnementen of credits te verkopen, zoals bij elk ander digitaal entertainmentplatform. Veel sites bootsen het bedrijfsmodel van OnlyFans of Twitch na, met affiliateprogramma's, promotievideo's en zelfs deals met pornoactrices.

Maar de maatschappelijke impact is allesbehalve triviaal. De meeste slachtoffers zijn vrouwen, vaak tieners, die nooit toestemming hebben gegeven voor manipulatie van hun foto's. Eenmaal gemaakt, circuleren de foto's op sociale media, forums, Telegram-kanalen en andere moeilijk te traceren platforms. De emotionele en reputatieschade is onberekenbaar.

Een van de meest verrassende aspecten van het onderzoek is niet alleen het aantal bezoeken of gegenereerde inkomsten, maar ook de technologische infrastructuur die het systeem ondersteunt . Van de 85 geanalyseerde sites:

• 62 gebruiken Amazon Web Services of Cloudflare voor het hosten en distribueren van content.
• 54 Gebruik het Google-inlogsysteem.
• Verschillende bedrijven hebben geïntegreerde betaalmethoden die afhankelijk zijn van legitieme commerciële gateways.

Het probleem is niet alleen dat deze grote platformen worden gebruikt, maar ook dat ze herhaaldelijk en massaal worden gebruikt, zonder effectief toezicht of systematische maatregelen om deze ruimtes te ontmantelen. Volgens Alexios Mantzarlis, medeoprichter van Indicator , "heeft Silicon Valley een laissez-faire-benadering gehanteerd ten aanzien van generatieve AI", wat deze toxische bedrijven een reddingslijn heeft gegeven.

Google en Amazon beweren actie te ondernemen wanneer ze schendingen van hun beleid constateren, maar in werkelijkheid schiet hun monitoringsysteem tekort. In veel gevallen gebruiken de makers van deze websites tussenliggende websites om hun ware bedoelingen te verhullen en zo geautomatiseerde controles te omzeilen.

De opkomst van deze platforms heeft een nieuwe vorm van digitale seksuele intimidatie en geweld met zich meegebracht. Slachtoffers weten zelden dat hun afbeeldingen gemanipuleerd zijn. Tegen de tijd dat ze erachter komen, is de schade al aangericht. En het verwijderen van dergelijke content uit het digitale ecosysteem is vrijwel onmogelijk.

Tot de meest alarmerende gevallen behoren die waarbij adolescenten betrokken zijn. In verschillende landen hebben jongens foto's van hun klasgenoten gebruikt om deepfakes te maken, die vervolgens worden verspreid in WhatsApp-groepen of op sociale media. Deze vorm van cyberpesten laat geen fysieke sporen na, maar laat wel diepe wonden achter.

Het probleem wordt verergerd door het ontbreken van duidelijke wetgeving of de trage implementatie ervan . Hoewel verschillende landen het maken en verspreiden van nep-seksuele afbeeldingen beginnen te criminaliseren, is het wettelijk kader nog niet aangepast aan de technologie. De platforms beweren op hun beurt dat ze slechts infrastructuuraanbieders zijn, geen contentaanbieders.

De nudifier-economie wordt steeds geavanceerder. Sommige sites bieden zelfs "premiumdiensten" aan met een betere kwaliteit . Andere adverteren op platforms voor video's voor volwassenen of maken gebruik van affiliate marketingtechnieken. Ze beginnen zich te mengen in de legale porno-industrie, op zoek naar legitimiteit of op zijn minst anonimiteit te midden van de chaos van online content voor volwassenen.

Dit fenomeen vertegenwoordigt een digitaal grijs gebied , waar seksueel misbruik samensmelt met e-commerce-businessmodellen. Bovendien doen ze dat via schijnbaar legitieme kanalen: betaalgateways, loyaliteitsprogramma's, SEO-verkeer en gepromote video's.

Voor experts is de sleutel het blokkeren van de toegang tot de bronnen die deze platforms levensvatbaar maken. Als grote techbedrijven clouddiensten, registratiesystemen of hosting blokkeren, zouden veel van deze sites instorten. Het doel is niet om ze uit te roeien – iets wat onmogelijk is – maar om hun leven zo moeilijk te maken dat ze zichtbaarheid, gebruikers en inkomsten verliezen.

Hoewel het probleem al jaren aan de gang is, wijzen sommige recente acties op een verschuiving in de aandacht . Meta heeft een bedrijf aangeklaagd dat verantwoordelijk was voor een nudifier die op zijn platform adverteerde . Microsoft heeft ontwikkelaars van deepfakes van beroemdheden opgespoord. En de Amerikaanse overheid heeft de controversiële "Take It Down Act" aangenomen, die techbedrijven verplicht snel actie te ondernemen naar aanleiding van meldingen van seksuele content zonder wederzijdse toestemming.

In het Verenigd Koninkrijk is het maken van seksuele deepfakes al strafbaar gesteld. Sommige steden, zoals San Francisco, hebben rechtszaken aangespannen tegen bedrijven die deze tools op de markt brengen. De maatregelen blijven echter beperkt en reactief. Een gemeenschappelijke, alomvattende en daadkrachtige strategie ontbreekt.

Analisten vrezen dat deze platforms hun toevlucht zullen zoeken in nog minder gereguleerde digitale omgevingen , zoals het dark web of gesloten sociale netwerken. Maar zelfs daar zal hun impact minder zijn als ze de logistieke en commerciële ondersteuning verliezen die ze momenteel van grote technologiebedrijven krijgen.