Alerta de 'Nudify': IA potencializa aplicativos que 'despem' qualquer foto

O que acontece quando uma tecnologia se torna uma arma de assédio e violência digital? E se os pilares da internet — Amazon, Google ou Cloudflare — não só não conseguirem impedir isso, como também indiretamente facilitarem isso?

Nos últimos dois anos, proliferaram sites e aplicativos que permitem que as pessoas criem imagens falsas de nudez a partir de fotos reais, sem o consentimento das pessoas fotografadas . A promessa de aplicativos que funcionam como "raios-X" não é nova, mas ressurgiu graças à IA.

Novas pesquisas lançaram luz sobre o escopo, o modelo de negócios e os atores que tornam possível essa indústria oculta. O mais alarmante não é apenas a existência dessas plataformas , mas também sua sofisticação empresarial e dependência da infraestrutura tecnológica que usamos diariamente.

A indústria do "nudify" não surgiu do nada. Desde que os primeiros deepfakes explícitos começaram a circular em 2017 , a tecnologia se tornou mais refinada e democratizada. Hoje, uma foto publicada em um desses sites é suficiente para criar uma imagem sexual falsa em apenas alguns cliques. O que começou como uma curiosidade técnica perturbadora se transformou em uma indústria de conteúdo sexual não consensual que gera dezenas de milhões de dólares anualmente.

De acordo com a análise da Indicator , 18 desses sites faturaram entre US$ 2,6 milhões e US$ 18,4 milhões apenas nos últimos seis meses. Eles fazem isso vendendo assinaturas ou créditos, como acontece com qualquer outra plataforma de entretenimento digital. Muitos imitam o modelo de negócios do OnlyFans ou do Twitch, com programas de afiliados, vídeos promocionais e até acordos com atrizes pornôs.

Mas seu impacto social é tudo menos trivial. A maioria das vítimas são mulheres, muitas vezes adolescentes, que nunca autorizaram a manipulação de suas fotos. Uma vez criadas, as imagens circulam em redes sociais, fóruns, canais do Telegram e outras plataformas difíceis de rastrear. Os danos emocionais e à reputação são incalculáveis.

Um dos aspectos mais surpreendentes da pesquisa não é apenas o volume de visitas ou o dinheiro gerado, mas também a infraestrutura tecnológica que sustenta o sistema . Dos 85 sites analisados:

• 62 use Amazon Web Services ou Cloudflare para hospedagem e distribuição de conteúdo.
• 54 use o sistema de login do Google.
• Vários deles integraram métodos de pagamento que dependem de gateways comerciais legítimos.

O problema não é apenas o uso dessas grandes plataformas, mas sim o uso repetido e massivo, sem supervisão eficaz ou respostas sistemáticas para desmantelar esses espaços. De acordo com Alexios Mantzarlis, cofundador da Indicator , "o Vale do Silício adotou uma abordagem laissez-faire em relação à IA generativa", o que deu a esses negócios tóxicos uma tábua de salvação.

Google e Amazon alegam tomar medidas quando detectam violações de suas políticas, mas a realidade é que seu sistema de monitoramento é deficiente. Em muitos casos, os criadores desses sites usam sites intermediários para camuflar suas verdadeiras intenções, driblando assim os controles automatizados.

A ascensão dessas plataformas trouxe consigo uma nova forma de assédio sexual e violência digital . As vítimas raramente sabem que suas imagens foram manipuladas. Quando descobrem, o dano já foi feito. E remover esse tipo de conteúdo do ecossistema digital é quase impossível.

Entre os casos mais alarmantes estão os que envolvem adolescentes. Em vários países, meninos usam fotos de colegas de classe para criar deepfakes, que depois circulam em grupos de WhatsApp ou nas redes sociais. Essa forma de cyberbullying não deixa rastros físicos, mas deixa feridas profundas.

O problema é agravado pela ausência de leis claras ou pela lentidão de sua implementação . Embora vários países estejam começando a criminalizar a criação e a disseminação de imagens sexuais falsas, o arcabouço legal ainda não acompanhou a tecnologia. As plataformas, por sua vez, afirmam ser apenas provedoras de infraestrutura, não provedoras de conteúdo.

A economia do nudismo está se tornando mais sofisticada. Alguns sites até oferecem "serviços premium" com melhor qualidade . Outros anunciam em plataformas de vídeos adultos ou usam técnicas de marketing de afiliados. Eles estão começando a se integrar à indústria pornográfica legal, buscando legitimidade ou pelo menos anonimato em meio ao caos do conteúdo adulto online.

Esse fenômeno representa uma zona cinzenta digital , onde o abuso sexual se funde com os modelos de negócios do comércio eletrônico. Além disso, o fazem por meio de canais aparentemente legítimos: gateways de pagamento, sistemas de fidelidade, tráfego de SEO, vídeos promovidos.

Para os especialistas, a chave é cortar o acesso aos recursos que tornam essas plataformas viáveis. Se as grandes empresas de tecnologia bloquearem serviços de nuvem, sistemas de registro ou hospedagem, muitos desses sites entrariam em colapso. O objetivo não é erradicá-los — algo impossível —, mas dificultar tanto a vida deles que percam visibilidade, usuários e receita.

Embora o problema já esteja se formando há anos, algumas ações recentes indicam uma mudança de foco . A Meta processou uma empresa responsável por um nudificador que anunciava em sua plataforma . A Microsoft rastreou desenvolvedores de deepfakes de celebridades. E o governo dos EUA aprovou a controversa Lei "Take It Down", que exige que as empresas de tecnologia ajam rapidamente em caso de denúncias de conteúdo sexual não consensual.

No Reino Unido, a criação de deepfakes sexuais já foi criminalizada. E algumas cidades, como São Francisco, entraram com ações judiciais contra empresas que comercializam essas ferramentas. No entanto, as medidas permanecem parciais e reativas. Falta uma estratégia comum, abrangente e decisiva.

O risco, segundo analistas, é que essas plataformas busquem refúgio em espaços digitais ainda menos regulamentados , como a dark web ou redes sociais fechadas. Mas mesmo nesses ambientes, seu impacto será menor se perderem o apoio logístico e comercial que recebem atualmente das grandes empresas de tecnologia.