Legisladores de Nueva York aprueban proyecto de ley sobre seguridad en IA
Los legisladores del estado de Nueva York aprobado un proyecto de ley el jueves que busca evitar que modelos avanzados de IA de empresas como OpenAI, Google y Anthropic contribuyan a escenarios catastróficos, como la muerte o lesiones de más de 100 personas o daños superiores a mil millones de dólares.
La aprobación de la *Ley de Aumento* representa un triunfo para el movimiento de seguridad en IA, que ha perdido influencia en los últimos años debido al enfoque de Silicon Valley y la administración Trump en velocidad e innovación. Figuras como el Nobel Geoffrey Hinton y el pionero Yoshua Bengio han respaldado la ley. De ser promulgada, establecería los primeros estándares de transparencia obligatorios para laboratorios de IA avanzada.
La *Ley de Aumento* comparte disposiciones con la polémica SB 1047 de California, que finalmente fue vetada. No obstante, el senador Andrew Gounardes, copatrocinador del proyecto, explicó a TechCrunch que diseñó la ley para no obstaculizar la innovación en startups o academia, una crítica frecuente hacia SB 1047.
“La ventana para implementar salvaguardas se reduce rápidamente dada la evolución de esta tecnología”, declaró Gounardes. “Los expertos advierten que estos riesgos son muy probables… eso es preocupante”.
La ley ahora pasa al escritorio de la gobernadora Kathy Hochul, quien podría firmarla, devolverla con enmiendas o vetarla.
De aprobarse, exigiría que los mayores laboratorios de IA publiquen informes de seguridad sobre sus modelos avanzados y reporten incidentes, como mal uso o robos de sistemas. El incumplimiento permitiría al fiscal general imponer multas de hasta $30 millones.
La norma apunta a gigantes tecnológicos, ya sea en California (OpenAI, Google) o China (Deepseek, Alibaba), cuyos modelos hayan requerido más de $100 millones en capacidad computacional y estén disponibles en Nueva York.
A diferencia de SB 1047, la *Ley de Aumento* no exige “interruptores de emergencia” en modelos de IA, según Nathan Calvin de ENCODE, quien trabajó en ambas iniciativas.
Sin embargo, Silicon Valley ha criticado duramente la propuesta. El asambleísta Alex Bores, copatrocinador, atribuyó la resistencia industrial a intereses económicos, pero insistió en que la ley no frena la innovación.
Andreessen Horowitz tildó la ley de “estúpida” en un tuit, mientras que Anthropic, aunque partidario de la transparencia, expresó preocupaciones sobre su alcance hacia empresas pequeñas.
Gounardes rechazó estas críticas, afirmando que el proyecto excluye deliberadamente a las pymes. Por su parte, Bores destacó que la carga regulatoria es leve y que abandonar Nueva York—con su alto PIB—sería irracional para las empresas.
“No subestimemos mezquindades políticas, pero no hay motivos económicos para que las compañías retiren sus modelos de Nueva York”, concluyó Bores.
OpenAI, Google y Meta declinaron comentar.