Un influencer con inteligencia artificial deepfake robó mis fotos de boda

Como creadora de contenido a tiempo completo, Kelly Stranick ( @kellygracemae ) sabe que un riesgo de compartir tu vida en línea es que, ocasionalmente, otras personas intenten robar tus fotos. Lo que no sabía es que, a veces, esas personas no son personas reales. A continuación, la influencer de Brooklyn comparte, en sus propias palabras, lo que sucedió cuando descubrió que una cuenta de Instagram deepfake, generada por IA, intentaba hacer pasar su boda como suya.

En marzo de 2019, me mudé a San Francisco por un trabajo en tecnología y viví con tres chicos que me dijeron que tenía que entrar en Hinge. "Así es como se conoce la gente", dijeron. "Así funciona el mundo ahora". Les dije que sí, que lo haría, y conecté con Andy y salimos. Tenía apenas 24 años y no tenía planes de conocer a mi marido, pero una cosa llevó a la otra, y así fue como resultó. Mayo de 2019: mi primera y única cita en Hinge.

En 2022, pensé que nos comprometeríamos, pero pensé que sería en verano. Cuando Andy me propuso matrimonio el 4 de marzo de 2022, me pilló totalmente desprevenida; llevaba leggings y nada de maquillaje, aunque por suerte llevaba el pelo alisado. No soy de esas chicas que crecieron pensando en su boda. Ni siquiera pensé que me casaría. Vengo de una familia divorciada y he tenido muchos traumas con relaciones pasadas, así que no le di mucha importancia a casarnos algún día. Así que cuando nos comprometimos, contratamos a una organizadora de bodas de servicio completo, Veronica Joy Events , que también es amiga de la familia. Le di un tablero de Pinterest con ideas y le dije: "Quiero flores de colores y bolas de discoteca. Quiero que se sienta como una fiesta de copas", y dejé que ella se encargara.

Empecé a hacer TikToks en la primavera de 2022, unos meses después de comprometernos. Era solo por diversión (no tuve mucha audiencia hasta principios de 2023) y me estaba sintiendo más cómoda siendo más personal en línea, incluso hablando de lo que estaba pasando en mi vida, que en ese momento era la planificación de la boda. Compartía sobre el proceso de la boda y las decisiones que tomamos que nos resultaron auténticas, como no tener un primer baile ni una fiesta nupcial. Pero no diría que mi contenido era específico de la boda ni nada por el estilo.

Cuando llegó el día de nuestra boda, yo era de las que pensaba: «No tengo expectativas de que este sea el mejor día de mi vida» . Mi prioridad era estar tranquila, presente, disfrutar del día y no dejarme inundar por el estrés. Tuve tiempo a solas esa mañana; no tenía un grupo grande de gente preparándose conmigo. Quería que fuera muy tranquilo. Pero como no tenía esas expectativas, terminó siendo el mejor día de mi vida. Pude disfrutarlo todo de principio a fin, porque me había propuesto esas cosas. Estaba flotando. Si pudiera ser mi mejor versión, como lo fui ese día, todos los días, sería imparable.

Estaba muy emocionada por compartir sobre la boda después de la boda —para dar perspectiva y consejos—, pero me sorprendió la cantidad de gente que quería saber. Compartí información sobre nuestros proveedores y hablé mucho sobre mi actitud ante la boda; sin embargo, lo que más llamó la atención fue que nos largamos de la boda y fuimos al Brooklyn Mirage para la fiesta posterior.

Hace poco, recibí un mensaje de Instagram de una de mis seguidoras. Me dijo: "Oye, estaba viendo el vídeo y vi este. Esta es tu foto de boda". En el vídeo, había una foto de mi boda, de mi marido, Andy, de todo , pero no era mi cara. Otra influencer había sustituido mi cara por la suya y hablaba de pequeñas cosas que hizo en su boda. Nada tenía que ver conmigo, salvo que había usado mi foto como introducción. Mi reacción inmediata fue: "¿Qué demonios? ¿Quién es esta persona que me saca la foto de boda, le pone su cara y crea contenido sobre ella?".

Ni siquiera me di cuenta de que pudiera ser IA. Obviamente, la gente usa IA para retocar, pero no me di cuenta de que la persona del video era IA hasta que publiqué sobre la experiencia. Luego empecé a recibir muchos mensajes de gente que decía: "Esto es un deepfake. Ni siquiera es una persona real".

Una captura de pantalla del vídeo en cuestión.

Nunca compartí esto en línea, pero me pasó algo parecido poco menos de seis meses después de nuestra boda. Uno de mis seguidores me avisó de que una chica en RedNote había tomado esa misma foto y había retocado su cara con Photoshop, con gran habilidad, sobre mi cuerpo. Así que ni siquiera me di cuenta de que esta nueva persona no era real, hasta que me enviaron un mensaje diciendo que la cuenta era un deepfake. Todavía no sé si es una persona generada completamente por IA o si están usando la voz y la imagen de alguien para generar estos videos. Tampoco me di cuenta hasta hace poco de que la intención detrás de la cuenta deepfake, que tiene más de 60.000 seguidores, es vender y promocionar una aplicación que genera fotos que parecen sacadas de una cámara desechable.

Esta situación me hizo reflexionar mucho. Como no salgo en el video, me siento menos conectada, pero he visto a gente como Arielle Lorre, creadora de contenido y podcaster, cuya cara y voz fueron utilizadas por una empresa para crear un anuncio pagado generado por IA donde "hablaba" de su producto. Si fuera yo, me enojaría muchísimo. Me sentiría confundida, asustada y enojada. Intentaría emprender acciones legales.

En mi caso, no estoy seguro de cómo me siento al pensar que sea una persona completamente falsa, generada por IA. Siento que eso es menos dañino, pero también hay quienes no saben si es real o no. Y es perjudicial para los creadores de contenido que tienen que compartir cosas en internet y que luego se exponen al riesgo de que alguien manipule ese audio o video y lo use para promocionar productos de los que nunca han hablado. También me da asco que mi madre a veces se desplace en Instagram Reels, y muchos de nuestros padres y abuelos no siempre pueden diferenciar entre un testimonio humano auténtico y uno generado por IA. Se aprovecha de la vulnerabilidad de las personas que no son capaces de distinguir la diferencia. En general, solo necesitamos ser conscientes del contenido que consumimos y realmente mirar las cosas desde la perspectiva de "¿Es esto real o no?".

Lo único que esta experiencia realmente me confirmó es que cuando traigo hijos a este mundo, quiero esforzarme activamente por no compartirlos en línea ni comprometer su seguridad de ninguna manera. Cualquiera que publique algo en internet está en riesgo, ya sea un influencer con muchos seguidores o simplemente alguien que tenga un video suyo en algún lugar de internet.

Sinceramente, para mí, todo esto es solo una anécdota graciosa. Es extraño que no sea una persona real. Ni siquiera sabía que existían los influencers de IA, pero creo que se volverán más comunes, porque una marca no tiene por qué pagar a un influencer falso. De verdad, no puedo creer que mantuvieran a Andy en el video y no a mí. Es de muy mala educación.

Esta entrevista ha sido editada y condensada para mayor claridad.

Madison Feller

Editor adjunto digital

Madison es la editora adjunta digital de ELLE.com, donde también cubre noticias, política y cultura. Si no está conectada, probablemente esté durmiendo la siesta o intentando no caerse mientras escala.