¿Por qué la gente usa IA para simular discapacidades en línea?

Según un análisis de CBS News Confirmed, las cuentas generadas por IA que se hacen pasar por personas con síndrome de Down se están extendiendo por las redes sociales. Muchos de estos perfiles, respaldados por inteligencia artificial, están ganando seguidores más rápido que los verdaderos defensores de la discapacidad, y están ganando dinero con ello.

Estas cuentas falsas utilizan mensajes que inspiran optimismo, bailan canciones de moda y agradecen a sus seguidores por apoyar sus viajes.

Un vídeo tiene como subtítulo: "¡Siéntete orgulloso de ti mismo y de tus diferencias!"

"Estoy muy agradecido de nunca haber abandonado mi sueño", se lee en otra publicación.

Pero las personas que aparecen en estos relatos no son reales.

CBS News Confirmed identificó más de 30 cuentas que suplantaban la identidad de personas con síndrome de Down en Instagram, YouTube y TikTok. Algunas usaban deepfakes o cambios de rostro con IA. Otras imitaban el lenguaje de defensores de la discapacidad y lo adaptaban para que pareciera auténtico. Solo unas pocas cuentas revelaron el uso de IA.

Las comunidades con síndrome de Down han conseguido una gran base de seguidores en redes sociales, utilizando hashtags conocidos como #DownSyndrome y #DownSyndromeAwareness para conectar y compartir sus historias. Los impostores se aprovechan de esas mismas etiquetas para aparecer junto a verdaderos defensores.

Muchas de las cuentas impostoras identificadas por CBS News publicaron videos en TikTok e Instagram usando subtítulos coquetos o emotivos para llamar la atención.

"¡Una chica con síndrome de Down también puede salir de fiesta a coquetear!", dice un texto superpuesto en una publicación.

Otras cuentas compartieron videos respondiendo a críticas inventadas para aumentar la participación y volverse virales.

Una cuenta, que se autodenominaba "la creadora NÚMERO 1 de DS🥇", usó su perfil —lleno de contenido sobre síndrome de Down y con más de 130.000 seguidores— para promocionar su contenido en un sitio solo para adultos. CBS News contactó a la dueña de la cuenta, que se hacía llamar "Sara", y le dijo: "Sí, gano mucho dinero con ello".

Otra cuenta conocida, con más de 100.000 seguidores, afirmaba recaudar fondos para la Sociedad Nacional del Síndrome de Down (NDSS), uno de los principales grupos de defensa del país. Sin embargo, los videos que compartió mostraban un rostro borroso y distorsionado, con indicios de IA. Un portavoz de la NDSS declaró a CBS News que no conocían a esta persona ni le pidieron que recaudara fondos para el grupo. La cuenta fue posteriormente dada de baja.

Para las personas con síndrome de Down, estas cuentas falsas pueden parecer un nuevo nivel de discriminación: uno en el que sus experiencias vividas se copian, se exageran y se monetizan.

"No está bien robar nuestras historias sólo para llamar la atención en línea", dijo Alex Bolden, quien trabaja para NDSS.

Bolden, quien tiene síndrome de Down, dijo a CBS News que pasó años trabajando para conseguir sus 24.000 seguidores en Instagram , una cifra que algunos imitadores han conseguido en tan solo unos meses.

"Esas son nuestras historias. Trabajo muy duro para defender y compartir mi experiencia en línea, y no puedo creer que la gente intente quitármela", dijo.

"Es una tendencia preocupante", declaró Michelle Sagan, responsable de comunicaciones en NDSS, a CBS News. "He visto las caras de mis amigos en publicaciones de IA más de una vez".

Según los Centros para el Control y la Prevención de Enfermedades , aproximadamente 5.700 personas nacen con síndrome de Down cada año.

En su conferencia anual de defensa de los derechos celebrada en Washington, DC, la semana pasada, múltiples defensores coincidieron en que sólo las personas con síndrome de Down deberían ser las que contaran sus historias.

"Si bien existen muchas razones por las que estas cuentas falsas son erróneas, el principio fundamental es que las personas con síndrome de Down son las únicas que deberían hablar sobre lo que significa tener síndrome de Down", declaró a CBS News la presidenta y directora ejecutiva de NDSS, Kandi Pickard.

Ella dijo que estos influencers no sólo están suplantando la identidad de alguien, sino que también explotan a una comunidad que ya está luchando por ser escuchada.

"Todavía queda mucho trabajo por hacer para garantizar que las personas con síndrome de Down sean incluidas y respetadas en la sociedad", afirmó Pickard.

CBS News contactó a Meta, TikTok y YouTube para solicitar comentarios sobre cómo cada plataforma está abordando el contenido generado por IA que se hace pasar por personas con discapacidades.

"Nuestras Normas Comunitarias se aplican a todo el contenido publicado en nuestras plataformas, independientemente de si está generado por IA, y tomamos medidas contra cualquier contenido que viole estas políticas", dijo un portavoz de Meta a CBS News.

Cada plataforma determinó que las cuentas señaladas por CBS News habían violado sus políticas y las eliminaron o banearon tras nuestras indagaciones. Pero muchas otras aún existen.

Frenar la proliferación de cuentas generadas por IA es un objetivo en constante evolución, ya que incluso cuando una cuenta es eliminada, otra puede aparecer rápidamente. Y, a diferencia de los creadores reales, estos falsos influencers no necesitan descanso. Generan contenido nuevo al instante, inundando los feeds y dejando a las personas reales en las redes sociales aún más marginadas.

"Necesitamos la ayuda de todos para identificar y denunciar estas cuentas falsas a medida que siguen surgiendo", dijo Pickard, y agregó que espera que las plataformas de redes sociales tomen medidas más contundentes para detenerlas.

En:
• Discapacidades
• Redes sociales
• Síndrome de Down
• Inteligencia artificial