La Unión Europea se encuentra cada vez más cerca de regular la inteligencia artificial luego de que la semana pasada se aprobó una propuesta de ley enfocada en el control de los sistemas inteligentes.
En medio de la fiebre de la inteligencia artificial, la Unión Europea avanza con paso firme hacia la consolidación de la primera ley enfocada en controlar esta tecnología luego de que el pasado jueves 11 de mayo de 2023, un comité de legisladores clave en el parlamento europeo aprobó una regulación que aborda el manejo de la IA, tomando forma para convertirse en una legislación oficial.
La Comisión de Mercado Interior y la Comisión de Libertades Civiles del parlamento europeo fueron quienes impulsaron el proyecto de mandato de legislación sobre las primeras normas para la inteligencia la artificial, el cual pasó por mayoría simple con una amplia ventaja de 84 votos a favor, 7 en contra y 12 abstenciones, cifras que reflejan la preocupación actual de los gobiernos por la vertiginosa evolución de esta tecnología.
A través de la nueva propuesta de ley, los diputados pretenden garantizar que los sistemas de IA sean seguros, transparentes, rastreables, respetuosos con el medio ambiente y estén permanentemente supervisados por personas.
Potenciales beneficios de la nueva ley de IA en Europa
Las reglas propuestas adoptan un enfoque basado en los potenciales riesgos de la IA, así mismo, establecen requisitos y obligaciones tanto para proveedores como para usuarios de modelos inteligentes, dependiendo del nivel de riesgo que implique su uso.
La Ley de inteligencia artificial de la Unión Europea clasifica las aplicaciones en cuatro niveles de riesgo: inaceptable, alto, limitado y mínimo.
En caso de consolidarse, los sistemas de IA considerados de un nivel inaceptable de riesgo para la seguridad quedarían estrictamente prohibidos, incluyendo aquellos que implementan técnicas manipuladoras, explotan las vulnerabilidades de información de las personas o se utilizan para calificar socialmente a los usuarios en función de sus características socioeconómicas.
Adicional a la propuesta de ley, los diputados europeos ampliaron la clasificación de áreas de alto riesgo para añadir la prohibición de algunas aplicaciones que consideran de usos intrusivos y discriminatorios de los modelos de IA, incluyendo algunos tipos de sistemas de categorización, reconocimiento e identificación biométrica, así como ciertas herramientas predictivas basadas en perfiles, ubicación e historial de las personas.
Por otra parte, una gran motivación detrás de la regulación, es el auge acelerado de los modelos de IA generativa como ChatGPT, Bard, Claude, etc.
Es por eso que los diputados incluyeron obligaciones para los proveedores de estas aplicaciones, quienes tendrán que implementar controles de seguridad, medidas de gobernanza de datos, así como realizar múltiples evaluaciones de riesgos. Además, deberán registrarse en la base de datos de la UE y cumplir con los requisitos de diseño antes de hacer público su sistema.
Los desarrolladores de modelos avanzados de lenguaje como ChatGPT, además, deberán cumplir con normas de transparencia adicionales, como incluir marcas de agua para distinguir material generado por IA, así mismo se les exigirá entregar reportes sobre el proceso de entrenamiento de sus herramientas de IA de tal forma que puedan comprobar que los datos utilizados para capacitar a sus sistemas no violen la ley de derechos de autor.
La industria tecnológica reacciona
No todos están de acuerdo con las regulaciones propuestas para la IA. El proyecto de ley de la Unión Europea ha generado preocupación en la industria de la tecnología. Boniface de Champris, gerente de políticas de la Asociación de la Industria de la Computación y Comunicaciones Europea reveló que temen que el alcance de la Ley de inteligencia artificial se haya ampliado demasiado, al grado de afectar potencialmente el desarrollo y aprovechamiento de herramientas de IA que son inofensivas.
“Es preocupante ver la amplia gama de aplicaciones útiles de IA, que plantean riesgos muy limitados o ninguno en absoluto, que ahora enfrentarán requisitos estrictos, o incluso podrían prohibirse en Europa”, declaró de Champris al respecto.
Finalmente, es importante enfatizar que, aunque la propuesta ha sido aprobada por los legisladores del Parlamento Europeo, aún está muy lejos de convertirse en una ley. Sin embargo, esta iniciativa de la Unión Europea es la primera enfocada en la regulación de sistemas de IA en el mundo occidental, marcando la pauta de cómo el resto de los gobiernos pueden abordar esta tecnología para aprovecharla de la mejor forma, garantizando la seguridad de sus habitantes.
