Engaño deepfake: una mujer india fue robada para publicar contenido erótico con inteligencia artificial.
Sólo pasaron unos días para que la sensación india de Instagram, Babydoll Archi, duplicara su número de seguidores a 1,4 millones, gracias a un par de momentos virales en las redes sociales.
Uno de ellos era un video que la mostraba con un sari rojo, bailando seductoramente al ritmo de "Dame Un Grr", una canción rumana. Y una foto publicada en la plataforma la mostraba posando con la estrella estadounidense de cine para adultos Kendra Lust.
De repente, todo el mundo quería saber de ella, y el nombre Babydoll Archi se convirtió en tendencia en Google y generó innumerables memes y páginas de fans. Pero había un problema a punto de surgir: no había ninguna mujer real detrás de la sensación en línea.
La cuenta de Instagram era falsa, aunque el rostro que utilizaba tenía un asombroso parecido con el de una mujer real: una ama de casa de la ciudad de Dibrugarh en Assam, a quien llamaremos Sanchi.
La verdad se reveló después de que su hermano presentara una denuncia policial. Pratim Bora, el exnovio de Sanchi, fue arrestado.
El alto oficial de policía Sizal Agarwal, que dirige la investigación, dijo a la BBC que Sanchi y Bora tuvieron una pelea y que la imagen de inteligencia artificial que creó era para cobrar "pura venganza" contra ella.
Bora, un ingeniero mecánico y entusiasta autodidacta de la inteligencia artificial (IA), usó fotos privadas de Sanchi para crear un perfil falso, dijo Agarwal.
Bora se encuentra detenido y aún no ha hecho declaraciones. La BBC se ha puesto en contacto con su familia y actualizará el artículo cuando se pronuncien.
Babydoll Archi se creó en 2020 y las primeras cargas se realizaron en mayo de 2021. Las fotos iniciales eran sus fotos reales que habían sido transformadas, dijo Agarwal.
Con el tiempo, Bora usó herramientas como ChatGPT y Dzine para crear una versión con inteligencia artificial. Luego, llenó la cuenta con fotos y videos deepfake.
La cuenta comenzó a recibir “me gusta” el año pasado, pero empezó a ganar tracción a partir de abril de este año, agregó.
La breve denuncia de dos párrafos presentada por la familia de Sanchi a la policía la noche del 11 de julio venía acompañada de impresiones de algunas fotografías y vídeos como prueba.
La Sra. Agarwal dice que no nombró a nadie porque no tenían idea de quién podría estar detrás.
Babydoll Archi no era un nombre desconocido para la policía. La Sra. Agarwal afirma que también habían visto informes y comentarios en los medios que especulaban con que era una creación artificial, pero que no se había sugerido que estuviera basada en una persona real.
Una vez recibida la denuncia, la policía escribió a Instagram pidiendo los datos del creador de la cuenta.
Tras recibir información de Instagram, le preguntamos a Sanchi si conocía a algún Pratim Bora. Tras confirmarlo, rastreamos su dirección en el distrito vecino de Tinsukia. Lo arrestamos la noche del 12 de julio.
La Sra. Agarwal dice que la policía "le ha confiscado su ordenador portátil, sus teléfonos móviles, sus discos duros y sus documentos bancarios porque había monetizado la cuenta".
"La cuenta tenía 3.000 suscripciones en Linktree y creemos que había ganado un millón de rupias gracias a ella. Creemos que ganó 300.000 rupias en tan solo cinco días antes de su arresto", añadió.
La Sra. Agarwal dice que Sanchi está "extremadamente angustiada, pero ahora ella y su familia están recibiendo asesoramiento y están mejor".
Realmente no hay manera de evitar que algo así suceda, "pero si hubiéramos actuado antes, podríamos haber evitado que ganara tanta fuerza", dijo Agarwal.
"Pero Sanchi no tenía ni idea porque no tiene presencia en redes sociales. A su familia también la habían bloqueado de esta cuenta. Solo se enteraron cuando se viralizó", añadió.
Meta no ha respondido a las consultas de la BBC sobre el caso, pero generalmente no permite la publicación de desnudos ni contenido sexual. El mes pasado, CBS informó que eliminó varios anuncios que promocionaban herramientas de inteligencia artificial utilizadas para crear deepfakes sexualmente explícitos con imágenes de personas reales.
La cuenta de Instagram de Babydoll Archi, que tenía 282 publicaciones, ya no está disponible para el público, aunque las redes sociales están repletas de sus fotos y vídeos, y una cuenta de Instagram parece tenerlos todos. La BBC le ha preguntado a Meta qué planean hacer al respecto.
Meghna Bal, experta en inteligencia artificial y abogada, dice que lo que le sucedió a Sanchi "es horrible pero casi imposible de prevenir".
Ella puede acudir a la corte y pedir el derecho al olvido, y una corte puede ordenar que se eliminen los informes de prensa que la nombran, pero es difícil borrar todo rastro de Internet.
Lo que le pasó a Sanchi, dice, es lo que siempre les pasa a las mujeres, cuyas fotos y vídeos circulan como venganza.
"Ahora es mucho más fácil hacerlo gracias a la IA, pero estos incidentes aún no son tan comunes como esperábamos, o podrían no denunciarse por completo debido al estigma o a que las personas afectadas ni siquiera lo sepan, como en el presente caso", afirma la Sra. Bal. Y quienes lo vieron no tenían ningún incentivo para denunciarlo a la plataforma de redes sociales ni al portal de ciberdelincuencia, añade.
En su denuncia contra el Sr. Bora, la policía invocó artículos de la ley que abordan el acoso sexual, la distribución de material obsceno, la difamación, la falsificación para dañar la reputación, el fraude por suplantación de identidad y los delitos informáticos. De ser declarado culpable, el Sr. Bora podría ser condenado a hasta 10 años de prisión.
El caso, que también ha provocado indignación en las redes sociales en los últimos días, ha llevado a algunos a buscar leyes más duras para lidiar con este tipo de casos.
La Sra. Bal cree que hay suficientes leyes para ocuparse de estos casos, pero hay que analizar si hay margen para nuevas leyes que aborden a las empresas de IA generativa.
"Pero también debemos recordar que los deepfakes no son necesariamente malos y que las leyes deben elaborarse con cuidado porque pueden utilizarse como arma para coartar la libertad de expresión".
BBC
