El país asiático ha comenzado a desarrollar la primera supercomputadora de IA espacial de la historia, mientras tanto en Abu Dabi OpenAI, Nvidia y otros gigantes tecnológicos anunciaron que iniciarán con la construcción un campus de inteligencia artificial más grande que el área de Mónaco.
A medida que la inteligencia artificial continúa avanzando a pasos agigantados, el estado de Nueva York aprobó un nuevo proyecto de ley mediante el cual busca blindarse ante los posibles riesgos que esta tecnología representa. Los legisladores del estado aprobaron la Ley RAISE, una potencial legislación a través de la cual pretenden prevenir usos catastróficos de la IA por parte de empresas como OpenAI, Google y Anthropic.
El nuevo proyecto de ley, promovido por el senador neoyorkino Andrew Gounardes y el asambleísta estatal Alex Bores, busca “establecer salvaguardas legales ante posibles escenarios en los que sistemas de inteligencia artificial puedan ocasionar daños masivos a la sociedad que van desde la muerte o lesiones de más de 100 personas hasta pérdidas económicas superiores a mil millones de dólares”, según un comunicado oficial publicado por El Senado del estado de Nueva York.
¿Qué busca lograr el gobierno de Nueva York con el proyecto de Ley RAISE?
A través de la Ley RAISE, acrónimo para Responsible Artificial Intelligence in State Enforcement, el gobierno de Nueva York obligaría a los más grandes desarrolladores de inteligencia artificial, específicamente aquellos que hayan invertido más de $100 millones de dólares en recursos computacionales para entrenar modelos de IA de última generación, a implementar estrictos protocolos de seguridad.
En caso de que la Ley RAISE sea aprobada, gigantes de la tecnología como OpenAI, Google y Anthropic, entre otros estarían obligados a publicar evaluaciones de riesgos relacionadas con los usos de sus modelos de inteligencia artificial, así como establecer e implementar protocolos de seguridad enfocados a prevenir que esta tecnología sea utilizada para realizar ciberataques, cometer delitos automatizados o crear armas biológicas, por citar algunos ejemplos.
Además de lo anterior, las empresas de IA deberán reportar cualquier incidente grave, como el robo de modelos por parte de actores maliciosos o comportamientos peligrosos detectados en sus sistemas. De acuerdo con la información publicada por el Senado del Estado de Nueva York, la nueva ley le daría al fiscal general del estado la facultad de imponer sanciones civiles de hasta $30 millones de dólares a las compañías que no acaten al pie de la letra la legislación.
“La Ley RAISE es un paso hacia el futuro que todos queremos y merecemos”, declaró el senador Gounardes tras la aprobación del proyecto en el Senado estatal. “Garantizará que la innovación tecnológica se mantenga alineada con la seguridad pública y evita que las ganancias se antepongan a la protección de las personas”, añadió al respecto.
Reacciones divididas en torno al nuevo proyecto de Ley RAISE
La aprobación de la nueva propuesta legislativa ha generado reacciones divididas en la industria de la tecnología. Por un lado, la Ley RAISE fue bien recibida por diversas figuras reconocidas en el sector como el ganador del premio Nobel de Física, Geoffrey Hinton y el investigador Yoshua Bengio, quién es conocido como uno de los padres de la inteligencia artificial.
En repetidas ocasiones, ambos han advertido sobre los peligros de que la IA se desarrolle sin un control establecido, por lo que coincidieron en que la legislación representa un avance importante ante la falta de regulación en el país.
A pesar de lo anterior, no todos están convencidos con la nueva propuesta legislativa. Anjney Midha, socio general de la firma de inversión Andreessen Horowitz, calificó la iniciativa como “otro torpe proyecto de ley estatal sobre IA” que según él sólo “perjudicará a la innovación y afectará a Estados Unidos en su carrera tecnológica frente a otros países”.
Mientras tanto, el cofundador de Anthropic y actual director de políticas de la firma de IA, Jack Clark, expresó mediante una publicación en X que le preocupa que la nueva propuesta legal afecte el desarrollo de las empresas emergentes en el sector. No obstante, en la descripción del proyecto de ley el senado establece que está específicamente diseñada para excluir a startups y académicos.
¿Qué sigue para la Ley RAISE?
Aunque la Ley RAISE ya fue aprobada por los legisladores estatales, aún falta que la gobernadora de Nueva York, Kathy Hochul, la ratifique para que entre en vigor. En caso de hacerlo, la Gran Manzana se convertiría en el primer estado de los Estados Unidos en imponer requisitos legales de seguridad a los grandes desarrolladores de inteligencia artificial, marcando la pauta para una regulación más profunda y efectiva de esta tecnología en todo el país.
