Proyecto de ley Orgánica de uso y gobernanza de la IA en España

El 26 de mayo el Consejo de Ministros aprobó el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, la primera ley española orientada a garantizar un uso ético, confiable y bajo supervisión humana de la inteligencia artificial (IA).

Tabla de contenidos

La ley orgánica adapta al ordenamiento jurídico español algunas previsiones del Reglamento Europeo de Inteligencia Artificial (RIA), en vigor desde agosto de 2024, como el régimen sancionador, pues si bien los reglamentos europeos son de aplicación directa al ordenamiento interno, el régimen punitivo requiere de una ley nacional. No obstante, también aprovecha para reforzar la seguridad jurídica, aunque la norma -recordemos que se tramita como ley orgánica al afectar derechos fundamentales- no está exenta de críticas.

Infografía del proyecto de ley de la IA — Infografía sobre el proyecto de Ley Orgánica para el buen uso y la gobernanza de la Inteligencia Artificial

Objetivos principales de la nueva Ley de la IA

La norma persigue varios objetivos clave, ya destacados en el Reglamento europeo de la IA:

Garantizar una supervisión humana obligatoria de los sistemas de IA, especialmente en usos de alto impacto.
Asegurar un uso confiable, seguro y ético de la inteligencia artificial.
Proteger los derechos fundamentales, con especial atención a menores y colectivos vulnerables.
Adaptar el marco nacional al Reglamento Europeo de IA, creando una arquitectura de gobernanza y supervisión propia.
Impulsar la innovación responsable mediante espacios de prueba controlados (sandbox y entornos de pruebas).

Marco de gobernanza: quién supervisa la IA en España

El proyecto de ley define un marco de gobernanza claro, identificando autoridades y organismos responsables:

Designa autoridades notificantes y autoridades de vigilancia del mercado, siguiendo la lógica del Reglamento Europeo.
Mantiene las autoridades sectoriales ya existentes para productos regulados (por ejemplo, maquinaria, juguetes, vehículos o productos sanitarios).
Para otros sistemas (empleo, biometría, educación, etc.), la supervisión recae en:
- AESIA (Agencia Española de Supervisión de la Inteligencia Artificial),
- AEPD (Agencia Española de Protección de Datos),
- y el CGPJ (Consejo General del Poder Judicial), según el ámbito.

Además, AESIA se configura como un organismo central de referencia y punto de contacto único con la Unión Europea en materia de IA.

Clasificación de los sistemas de IA según el riesgo

La carrera de la IA va tan rápida que las legislaciones nacionales tienen que adaptarse a la realidad social. En el caso de este proyecto de ley, se amplía la prohibición de los sistemas de IA prohibidos a los deepfakes sexuales o imágenes falsas de contenido sexual, especialmente de mujeres y menores, tan tristemente de moda actualmente, así como a sistemas que se aprovechen de personas vulnerables (niños, personas con discapacidad, etc.).

Régimen sancionador: multas de hasta 35 millones de euros

Uno de los aspectos más relevantes, y polémicos, de esta Ley Orgánica es su régimen sancionador, que busca ser efectivo, proporcionado y disuasorio.

Las infracciones se clasifican en muy graves, graves y leves, siguiendo un esquema similar al del Reglamento Europeo de IA y garantizando así una respuesta graduada frente a los incumplimientos. En los supuestos más graves, como el uso de sistemas de IA prohibidos o prácticas que vulneren de forma intensa derechos fundamentales, las sanciones pueden alcanzar hasta 35 millones de euros o el 7 % del volumen de negocio anual, tomando como referencia la cifra que resulte más elevada. En el extremo opuesto, para las infracciones leves, las multas pueden llegar hasta 500.000 euros o el 0,5 % del volumen de negocio, de nuevo eligiendo la cuantía que resulte más gravosa para el infractor.

Proyecto de ley de Gobernanza de la inteligencia artificial

Además, este régimen sancionador incorpora mecanismos que priorizan la corrección frente a la mera penalización, es decir, se busca corregir los defectos que pueda tener el uso de los sistemas de IA mediante, por ejemplo, reducciones por pronto pago, rebajas cuando el infractor adopta medidas correctoras efectivas y criterios específicos para tener en cuenta el tamaño empresarial, con el fin de proteger a pymes y startups, en coherencia con lo previsto por el Reglamento de IA de la Unión Europea. De este modo, se busca fomentar que las empresas se pongan rápidamente en cumplimiento y corrijan malas prácticas sin comprometer la viabilidad de los proyectos innovadores.

Impacto en la Administración Pública

Comencemos por la, quizás, mayor crítica que se le hace a esta ley, y es que excluye a la Administración pública de ser sujeto de sanciones. Sólo prevé apercibimientos y medidas correctoras, muy alineado con otros ámbitos.

Por otro lado, la ley introduce la figura del delegado de IA en las administraciones, encargado de coordinar el cumplimiento normativo, asesorar en el diseño y despliegue de sistemas de IA y apoyar los procedimientos de contratación pública relacionados con estas tecnologías. Esta figura se alinea con los planes de contratación de expertos en IA en el sector público anunciados por el Gobierno, de manera que cada organismo disponga de perfiles especializados que puedan identificar riesgos, evaluar impactos y garantizar un uso responsable de los algoritmos.

En conjunto, el impacto en la Administración Pública pasa por una combinación de mayor autoexigencia, obligaciones reforzadas de transparencia y supervisión humana y una profesionalización del uso de la IA, con el objetivo de aprovechar sus beneficios (eficiencia, simplificación de cargas burocráticas, mejora de la atención ciudadana) sin comprometer los derechos fundamentales ni la confianza de la ciudadanía

Innovación y entornos de pruebas (sandbox de IA)

Lejos de ser únicamente una norma restrictiva, este proyecto de ley incorpora mecanismos para fomentar la innovación en un entorno controlado. No se trata de una novedad en la ley, pues este sandbox se creó por el Real Decreto 817/2023.

Dadas las peculiaridades y posibles peligros que los sistemas de inteligencia artificial pueden suponer para los usuarios y ciudadanos, estos entornos se convierten en una herramienta muy poderosa para probar soluciones de IA innovadoras bajo supervisión regulatoria, antes de su despliegue, reduciendo riesgos y facilitando su posterior despliegue en condiciones de cumplimiento normativo.

Opiniones de los expertos sobre la nueva ley de IA

Quiero terminar mencionando brevemente las críticas, positivas y negativas, que ha traído el proyecto. Con carácter general, la futura ley ha generado una valoración positiva entre los expertos, especialmente por la necesidad de contar con un marco legal más claro que aporte seguridad jurídica y se adapte al Reglamento Europeo de IA.

Por ejemplo, el Consejo Económico y Social aplaudió que la regulación se haga por ley y que ordene un sistema de autoridades, supervisión e infracciones y sanciones. También ve con buenos ojos que la norma intente equilibrar innovación y protección de derechos fundamentales, especialmente en privacidad, igualdad y acceso a la justicia

Sin embargo, también han surgido críticas relevantes. La principal crítica que se hace entre los expertos es que las administraciones públicas no queden sometidas al mismo régimen sancionador que las empresas, lo que para algunos especialistas reduce la eficacia real de la ley y supone un claro agravio comparativo. Por su parte, el Consejo económico y social (CES) considera que el texto podría haber contado con más diálogo social y con una definición más precisa de los mecanismos de control, para evitar vacíos en su aplicación práctica.

En su conjunto, por tanto, el proyecto es visto como un paso necesario para regular la inteligencia artificial en España, pero también como una norma que todavía debe perfeccionarse para garantizar que su aplicación sea justa, equilibrada y realmente exigible.

Habrá que esperar al texto definitivo que se apruebe finalmente, y que tal y como está el panorama político, tratándose de una ley orgánica, creo que no se llegará a aprobar en esta legislatura.