Esta herramienta defectuosa y propensa a errores podría hacer que lo deporten, incluso si es ciudadano estadounidense
Suscríbete a Slatest para recibir los análisis, las críticas y los consejos más profundos, todos los días en tu bandeja de entrada.
Juan Carlos López-Gómez, a pesar de su ciudadanía estadounidense y su tarjeta de Seguro Social, fue arrestado el 16 de abril bajo sospecha infundada de ser un "extranjero sin autorización". El Servicio de Inmigración y Control de Aduanas (ICE) lo mantuvo en la cárcel del condado durante 30 horas " basándose en la confirmación biométrica de su identidad ", un error evidente de la tecnología de reconocimiento facial. Otro ciudadano estadounidense, Jensy Machado, fue retenido a punta de pistola y esposado por agentes del ICE . Fue otra víctima de identidad equivocada después de que otra persona proporcionara su domicilio en una orden de deportación. Esta es la realidad de la policía migratoria en 2025: primero arrestar, verificar después.
Ese riesgo solo crece a medida que ICE destruye las garantías del debido proceso, tanto ciudadanos como no ciudadanos enfrentan amenazas crecientes de identidad equivocada, y las agencias de policía de inmigración adoptan cada vez más tecnología propensa a errores, especialmente el reconocimiento facial. El mes pasado, se reveló que Aduanas y Protección Fronteriza solicitó propuestas a empresas de tecnología para expandir su uso de una tecnología de reconocimiento facial especialmente propensa a errores , el mismo tipo de tecnología utilizada erróneamente para arrestar y encarcelar a López-Gómez. ICE ya tiene casi $9 millones en contratos con Clearview AI, una compañía de reconocimiento facial con vínculos con el nacionalismo blanco que en un momento fue el sistema privado de reconocimiento facial más utilizado por las agencias federales. Cuando la policía imprudente se combina con herramientas de redada poderosas e imprecisas, el resultado inevitablemente serán más historias como las de López-Gómez y Machado.
Estudios han demostrado que la tecnología de reconocimiento facial tiene una probabilidad desproporcionada de identificar erróneamente a personas de color , especialmente a mujeres negras. Y con el reciente y rápido aumento de la actividad del ICE, el reconocimiento facial corre el riesgo de que cada vez más personas sean atrapadas arbitrariamente en la redada del ICE sin derecho al debido proceso para demostrar su situación legal. Incluso para los ciudadanos estadounidenses que no tienen nada que ocultar, el simple hecho de parecer la persona equivocada puede resultar en la cárcel o incluso la deportación.
Si bien los errores del reconocimiento facial son peligrosos, su potencial de abuso cuando funciona según lo previsto es aún más alarmante. Por ejemplo, el reconocimiento facial permite a Donald Trump usar al ICE como un arma más poderosa para la retribución. El propio presidente admite que está utilizando las fuerzas de seguridad migratorias para atacar a las personas por sus opiniones políticas y que busca deportarlas sin importar su ciudadanía . En el contexto de una administración presidencial inusualmente dispuesta a ignorar los procedimientos legales y las órdenes judiciales, un sistema de reconocimiento facial perfectamente preciso podría ser la posibilidad más peligrosa de todas: agentes federales podrían usar el reconocimiento facial en fotos y grabaciones de protestas para identificar a cada uno de los supuestos enemigos del presidente, y estos podrían ser arrestados e incluso deportados sin el debido proceso.
Y cuanto más se expande la tecnología de reconocimiento facial en nuestra vida diaria, más peligrosa se vuelve. Al trabajar con las fuerzas del orden locales y empresas privadas, incluso compartiendo tecnología de reconocimiento facial , ICE está aumentando su capacidad para detener a las personas, más allá de lo que ya pueden hacer. Esta delegación de infraestructura de vigilancia se presenta de muchas formas: los departamentos de policía locales integran el reconocimiento facial en sus cámaras corporales , los propietarios usan el reconocimiento facial en lugar de una llave para admitir o rechazar a los inquilinos y los estadios usan el reconocimiento facial para la seguridad. Incluso las escuelas públicas de Nueva York usaron el reconocimiento facial en las grabaciones de sus cámaras de seguridad hasta una moratoria reciente. En todo el país, otros estados y municipios han impuesto regulaciones sobre el reconocimiento facial en general, incluidos Boston, San Francisco, Portland y Vermont. Se han aprobado prohibiciones de la tecnología en las escuelas específicamente en Florida y esperan la firma del gobernador en Colorado. Cualquier reconocimiento facial, sin importar su uso previsto, corre el riesgo inherente de ser entregado a ICE para deportaciones indiscriminadas o de represalia política.
A nivel estatal y local, sin embargo, hay una manera de contraatacar. Por ejemplo, hay un paquete de proyectos de ley "Ban the Scan" en la Legislatura del Estado de Nueva York y el Ayuntamiento de Nueva York para frenar el uso del reconocimiento facial: por parte de la policía ( S5609 / A1045 ), por los propietarios ( A6363 e Intro. 425 ), por los alojamientos públicos ( A6211 e Intro. 217 ), y para hacer permanente la prohibición de su uso en las escuelas ( S3827 / A6720 ). Y aunque Nueva York, la ciudad más monitoreada del país, tiene la oportunidad de liderar el camino, las protecciones legislativas contra los riesgos del reconocimiento facial deben proliferar en todo el país para proteger completamente a nuestras comunidades. La única manera de evitar por completo que Trump, o cualquier futuro autoritario, permita que esta tecnología haga su voluntad y la de ICE es evitar el uso del reconocimiento facial en primer lugar.
Debido al inmenso poder del reconocimiento facial para identificar enemigos políticos y deportar indiscriminadamente a cualquiera de nosotros, y dado que la inexactitud racial del sistema ya está causando arrestos injustificados, prohibir el reconocimiento facial es un paso esencial para prevenir la extralimitación autoritaria. La Legislatura del Estado de Nueva York puede y debe aprobar el paquete de leyes de reconocimiento facial "Ban the Scan", y el resto del país debería seguir su ejemplo para proteger a las comunidades de este multiplicador de fuerza para la tiranía.
Suscríbete al boletín vespertino de Slate.
