Nueva York crea primer centro estatal de EEUU para evaluar seguridad de la inteligencia artificial

La gobernadora de Nueva York, Kathy Hochul, anunció este martes la creación del primer centro estatal de Estados Unidos (EEUU) dedicado a evaluar de manera independiente la seguridad de los sistemas de inteligencia artificial (IA), como parte de los preparativos para la implementación de nuevas regulaciones tecnológicas previstas para 2027.

La nueva institución, denominada Centro para la Responsabilidad e Investigación de la Inteligencia Artificial de Nueva York (NYCAIRR), reunirá a 80 especialistas con el propósito de impulsar investigaciones sobre seguridad, acelerar descubrimientos científicos y analizar los riesgos asociados con los sistemas avanzados de IA.

De acuerdo con un comunicado oficial, el centro tendrá como objetivo fortalecer la supervisión de esta tecnología y promover su desarrollo responsable, en un contexto de creciente preocupación por sus posibles efectos sobre la seguridad, la privacidad y la sociedad.

Centro utilizará infraestructura tecnológica de Empire AI

El NYCAIRR tendrá su sede en la Universidad de Binghamton, perteneciente al sistema de la Universidad Estatal de Nueva York (SUNY), y aprovechará la capacidad de computación del consorcio público-privado Empire AI.

Este proyecto tecnológico cuenta con aproximadamente 340 millones de dólares de respaldo público y 160 millones de inversión privada, recursos destinados a fortalecer la investigación y orientar el desarrollo de la inteligencia artificial hacia aplicaciones de beneficio colectivo.

La institución estará dirigida provisionalmente por Greg Morrisett, decano de Cornell Tech, y Jeannette Wing, vicepresidenta de Investigación de la Universidad de Columbia.

Ambos académicos cuentan con trayectoria en ciencias informáticas, investigación tecnológica y ciberseguridad.

Nueva York busca reforzar la supervisión de las grandes tecnológicas

La gobernadora Kathy Hochul aseguró que su administración pretende posicionar al estado como referente en materia de seguridad y responsabilidad en el desarrollo de la inteligencia artificial.

Según expresó, Nueva York busca liderar estos esfuerzos ante lo que considera una falta de acciones suficientes por parte del Gobierno federal.

La iniciativa surge en medio del debate estadounidense sobre el equilibrio entre la innovación tecnológica y la necesidad de establecer mecanismos de supervisión.

Mientras la administración del presidente Donald Trump ha defendido la aceleración del desarrollo de la IA para mantener la competitividad frente a China, sectores políticos y académicos han planteado la importancia de fortalecer las medidas de seguridad y transparencia.

Nuevas regulaciones entrarán en vigor en enero de 2027

La creación del centro se produce antes de la entrada en vigor, el 1 de enero de 2027, de la Ley de Seguridad y Educación en Inteligencia Artificial Responsable de Nueva York, conocida como Ley RAISE.

Esta normativa establecerá obligaciones para los desarrolladores de sistemas avanzados de inteligencia artificial que operen bajo su ámbito de aplicación.

Entre las principales disposiciones figuran la presentación de marcos de seguridad, la entrega de informes de transparencia y el registro de incidentes críticos relacionados con el funcionamiento de estos sistemas.

Además, las empresas sujetas a la legislación deberán reportar incidentes críticos de seguridad en un plazo máximo de 72 horas, con el propósito de facilitar la identificación y evaluación de posibles riesgos.

La normativa también contempla mecanismos de registro para los desarrolladores, como parte de los esfuerzos destinados a fortalecer la supervisión de la industria tecnológica.

Inteligencia artificial bajo mayor vigilancia

Con la creación del NYCAIRR, Nueva York busca establecer una estructura especializada capaz de realizar evaluaciones independientes sobre la seguridad de los modelos avanzados de inteligencia artificial.

La institución también pretende contribuir al desarrollo de investigaciones que permitan identificar vulnerabilidades, prevenir incidentes y ofrecer información técnica para la aplicación de las nuevas regulaciones.

El proyecto representa un nuevo paso en los esfuerzos estatales por establecer mecanismos de control sobre una tecnología cuya expansión está transformando sectores como la educación, la salud, la economía y la administración pública.