Nueva York aprueba un proyecto de ley para prevenir desastres provocados por IA

Los legisladores del estado de Nueva York aprobaron el jueves un proyecto de ley que tiene como objetivo evitar que los modelos de inteligencia artificial de frontera de OpenAI, Google y Anthropic contribuyan a escenarios de desastre, incluida la muerte o lesiones de más de 100 personas o más de mil millones de dólares en daños.

La aprobación de la Ley RAISE representa una victoria para el movimiento de seguridad de la IA, que ha perdido fuerza en los últimos años a medida que Silicon Valley y la administración Trump priorizan la velocidad y la innovación. Defensores de la seguridad, como el premio Nobel Geoffrey Hinton y el pionero de la investigación en IA Yoshua Bengio, han defendido la Ley RAISE. De aprobarse, el proyecto de ley establecería el primer conjunto de estándares de transparencia legalmente obligatorios en Estados Unidos para los laboratorios de IA de vanguardia.

La Ley RAISE comparte algunas de las disposiciones y objetivos del controvertido proyecto de ley de seguridad de la IA de California, la SB 1047, que finalmente fue vetado . Sin embargo, el copatrocinador del proyecto de ley, el senador estatal de Nueva York Andrew Gounardes, declaró a TechCrunch en una entrevista que diseñó deliberadamente la Ley RAISE para que no frene la innovación entre las startups ni los investigadores académicos, una crítica frecuente a la SB 1047.

“El margen de maniobra para implementar medidas de seguridad se está reduciendo rápidamente dada la rápida evolución de esta tecnología”, declaró el senador Gounardes. “Quienes mejor conocen la IA afirman que estos riesgos son increíblemente probables […] Es alarmante”.

La Ley RAISE ahora se dirige al escritorio de la gobernadora de Nueva York, Kathy Hochul, donde podría convertir el proyecto en ley, enviarlo nuevamente para enmiendas o vetarlo por completo.

De aprobarse, el proyecto de ley de seguridad de IA de Nueva York exigiría a los laboratorios de IA más grandes del mundo publicar informes exhaustivos sobre la seguridad de sus modelos de IA de vanguardia. El proyecto de ley también exige que los laboratorios de IA informen sobre incidentes de seguridad, como comportamientos preocupantes de los modelos de IA o el robo de modelos por parte de actores maliciosos. Si las empresas tecnológicas incumplen estos estándares, la Ley RAISE faculta al fiscal general de Nueva York a imponer sanciones civiles de hasta 30 millones de dólares.

La Ley RAISE busca regular estrictamente a las empresas más grandes del mundo, ya sea que tengan su sede en California (como OpenAI y Google) o en China (como DeepSeek y Alibaba). Los requisitos de transparencia del proyecto de ley se aplican a las empresas cuyos modelos de IA se entrenaron utilizando más de 100 millones de dólares en recursos informáticos (al parecer, más que cualquier modelo de IA disponible actualmente) y están disponibles para los residentes de Nueva York.

Si bien es similar a la SB 1047 en algunos aspectos, la Ley RAISE fue diseñada para abordar las críticas a proyectos de ley de seguridad de IA anteriores, según Nathan Calvin, vicepresidente de Asuntos Estatales y asesor general de Encode, quien trabajó en este proyecto de ley y en la SB 1047. En particular, la Ley RAISE no exige que los desarrolladores de modelos de IA incluyan un "interruptor de seguridad" en sus modelos, ni responsabiliza a las empresas que entrenan modelos de IA de frontera posteriormente por daños críticos.

Sin embargo, Silicon Valley ha mostrado una fuerte oposición al proyecto de ley de seguridad de la IA de Nueva York, según declaró a TechCrunch Alex Bores, asambleísta estatal de Nueva York y copatrocinador de la Ley RAISE. Bores consideró que la resistencia de la industria no era sorprendente, pero afirmó que la Ley RAISE no limitaría en absoluto la innovación de las empresas tecnológicas.

“La Ley NY RAISE es otro estúpido proyecto de ley estatal sobre IA que solo perjudicará a Estados Unidos en un momento en que nuestros adversarios se adelantan rápidamente”, declaró Anjney Midha, socio general de Andreessen Horowitz, en una publicación del viernes en X. Andreessen Horowitz y la incubadora de startups Y Combinator fueron algunos de los opositores más feroces a la SB 1047.

Hilo de política interna del béisbol: Anoche, Nueva York aprobó la ley RAISE, que establecería requisitos de transparencia para los modelos fronterizos. En @anthropicai , no nos hemos pronunciado sobre este proyecto de ley. Pero pensé que sería útil dar más contexto:

— Jack Clark (@jackclarkSF) 13 de junio de 2025

Anthropic, el laboratorio de inteligencia artificial centrado en la seguridad que a principios de este mes solicitó estándares federales de transparencia para las empresas de inteligencia artificial , no ha llegado a una postura oficial sobre el proyecto de ley, según declaró su cofundador, Jack Clark, en una publicación del viernes en X. Sin embargo, Clark expresó algunas quejas sobre la amplitud de la Ley RAISE, señalando que podría representar un riesgo para las "empresas más pequeñas".

Cuando se le preguntó sobre las críticas de Anthropic, el senador estatal Gounardes dijo a TechCrunch que pensaba que "no daba en el blanco" y señaló que diseñó el proyecto de ley para que no se aplicara a las pequeñas empresas.

OpenAI, Google y Meta no respondieron a la solicitud de comentarios de TechCrunch.

Otra crítica común a la Ley RAISE es que los desarrolladores de modelos de IA simplemente no ofrecían sus modelos más avanzados en el estado de Nueva York. Esta fue una crítica similar a la SB 1047, y es en gran medida lo que ha ocurrido en Europa debido a las estrictas regulaciones tecnológicas del continente.

El asambleísta Bores declaró a TechCrunch que la carga regulatoria de la Ley RAISE es relativamente leve y, por lo tanto, no debería obligar a las empresas tecnológicas a dejar de operar sus productos en Nueva York. Dado que Nueva York tiene el tercer PIB más grande de EE. UU., la retirada del estado no es algo que la mayoría de las empresas tomarían a la ligera.

"No quiero subestimar la mezquindad política que podría surgir, pero estoy muy seguro de que no hay ninguna razón económica para que [las empresas de IA] no pongan sus modelos a disposición en Nueva York", dijo el asambleísta Bores.