La Unión Europea ha dado este martes el último paso formal para completar la adopción del acuerdo que permitirá imponer en el bloque la primera legislación con la que limitar los riesgos de la Inteligencia Artificial (IA), un nuevo marco cuya aplicación plena está prevista a partir de 2026 ya que los gobiernos dispondrán ahora de un plazo de dos años para trasladar las normas a su legislación nacional.
«Es la primera regulación de este tipo en todo el mundo, enfrenta un reto tecnológico global que también crea oportunidades para nuestras sociedades y economías», ha destacado el secretario de Estado belga de Digitalización y presidencia de turno de la UE, Mathieu Michel, tras el aval dado este martes por los ministros de Competitividad, último paso formal para la publicación de la norma en el Diario Oficial de la UE y posterior entrada en vigor.
La nueva ley ofrece un enfoque que categoriza los niveles de riesgo y las restricciones que deben acompañar a cada estado en función de la escala, lo que implica la prohibición en casos de riesgo «inasumible», como los sistemas de categorización biométrica, la extracción no dirigida de imágenes para crear bases de datos de reconocimiento facial, el reconocimiento de emociones, sistemas de puntuación social o sistemas que manipulan el comportamiento.
Con todo, están previstas una serie de estrictas excepciones que permitirán el uso de sistemas de vigilancia biométrica en espacios públicos, siempre que haya orden judicial previa y para una lista de delitos estrictamente definidos.
De este modo, la supervisión biométrica en tiempo real se limitará en tiempo y ubicación y ello sólo para la búsqueda selectiva de víctimas de secuestro, trata o explotación sexual, para evitar una amenaza terrorista específica y presente y para localizar o identificar a un sospechoso de haber cometido un delito de los recogidos en la norma.
También quedan definidos los sistemas de IA autorizados pero considerados de muy alto riesgo por su importante impacto en la salud, la seguridad, los derechos fundamentales, el medio ambiente y el Estado de derecho.
Los sistemas de Inteligencia Artificial utilizados para influir en el resultado de las elecciones y el comportamiento de los votantes también se clasifican como de alto riesgo, y los ciudadanos tendrán derecho a presentar quejas y recibir explicaciones sobre las decisiones basadas en sistemas de IA de alto riesgo que afecten a sus derechos.
Otra de las claves ha sido cómo introducir reglas específicas para los modelos fundacionales, como las plataformas ChatGPT o DALL-E, que vieron la luz después de que la Comisión Europea presentara su primera propuesta de regulación por lo que este capítulo se ha ido desarrollando en el curso de la negociación.
La legislación pionera también prevé sanciones para los incumplidores que irán desde los 35 millones de euros o el 7 por ciento del volumen de negocio global hasta los 7,5 millones, en función del tamaño de la compañía.
El objetivo de la nueva regulación europea es fijar estándares de seguridad y de derechos fundamentales que eviten que la tecnología se use con fines represivos, de manipulación o discriminatorios; pero sin que se traduzca en una hiperregulación que lastre la competitividad de la Unión Europea.
