Primera ley IA mundial centrada en el ser humano:
El Parlamento Europeo aprobó el pasado 13 de marzo por abrumadora mayoría la Ley IA, una normativa destinada a regular los sistemas de IA según un planteamiento basado en el riesgo.
Originalmente propuesto por la Comisión Europea en abril de 2021, el proceso legislativo se enfrentó a una interrupción en diciembre de 2022 con la llegada de ChatGPT. Esto hizo necesario un cambio en el proyecto de texto, creando cláusulas específicas para la IA generativa, cuya ley finalmente ha sido aprobada.
Principales conclusiones sobre la Ley de la IA:
Los sistemas de IA se definen de forma amplia, centrándose en la autonomía
La Ley de IA define un sistema de IA como «un sistema basado en una máquina diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras su despliegue y que, con objetivos explícitos o implícitos, infiere, a partir de la información que recibe, cómo generar resultados tales como predicciones, contenidos, recomendaciones o decisiones que pueden influir en entornos físicos o virtuales», lo que sigue la última definición de la OCDE.
Los elementos clave de esta definición son «infiere» y «autonomía», que diferencian claramente un sistema de IA de cualquier otro software. Se aleja claramente de la definición original de los sistemas de IA, que vinculaba el concepto a una lista predefinida de tecnologías y métodos.
Lista cerrada de sistemas de IA prohibidos
La Ley de IA contiene una lista cerrada de prácticas de IA prohibidas, por ejemplo:
- Utilizar técnicas subliminales o intencionadamente manipuladoras o engañosas para distorsionar el comportamiento, provocando un daño significativo
- Explotar las vulnerabilidades de una persona debido a sus características específicas, causando un daño significativo
- Sistemas de categorización o identificación biométrica
- Sistemas de puntuación social
Doble definición de los sistemas de IA de alto riesgo
La Ley de IA contempla dos tipos de sistemas de IA que se consideran de alto riesgo:
- La IA destinada a ser utilizada como un producto (o el componente de seguridad de un producto) cubierto por la legislación específica de la UE, como: la aviación civil, la seguridad de los vehículos, los equipos de protección individual…
- Los sistemas de IA de identificación biométrica a distancia, de seguridad en infraestructuras críticas o la utilizada en educación, empleo, calificación crediticia, migración y proceso democrático.
Importante excepción a la calificación de sistema de IA de alto riesgo
La Ley de IA ha añadido una excepción a esta calificación: si el sistema de IA no plantea un riesgo significativo de daño para la salud, la seguridad o los derechos fundamentales de las personas físicas, no constituirá un sistema de IA de alto riesgo. Sin embargo, si el sistema de IA realiza la elaboración de perfiles de personas físicas, siempre se considerará un sistema de IA de alto riesgo. Esta excepción será muy importante en la práctica.
Obligaciones para los sistemas de IA de alto riesgo
Los proveedores de sistemas de IA de alto riesgo deben cumplir requisitos estrictos para garantizar que sus sistemas de IA sean fiables, transparentes y responsables: realizar evaluaciones de riesgos, justificar sus decisiones técnicas y éticas, mantener registros del funcionamiento de sus sistemas, e informar a los usuarios sobre la naturaleza y finalidad de sus sistemas.
La multa máxima por infracciones de la Ley de IA será de un máximo de 35 millones de euros o hasta el 7% de los ingresos globales de una empresa.
Conclusiones
Esta es una normativa histórica que pretende convertir a la UE en líder mundial de la IA centrada en el ser humano, fomentando al mismo tiempo la innovación y la competitividad. Su aprobación será definitiva cuando sea adoptada formalmente por el Consejo, y entrará en vigor veinte días después de su publicación en el Diario Oficial y siendo de plena aplicación veinticuatro meses después de su entrada en vigor.
Para garantizar que su empresa o proyecto se adapte perfectamente a la nueva Ley IA, contar con asesoramiento legal especializado es crucial. En Navas&Cusí, disponemos de un equipo de abogados especializados en inteligencia artificial que pueden guiarle a través de este nuevo marco regulatorio. Asegúrese de que sus sistemas de IA cumplan con las más altas exigencias legales y éticas contactando con nosotros hoy mismo.
