Supervisión humana, protección de derechos y nuevas garantías frente a los riesgos de la IA: el Gobierno impulsa una Ley Orgánica para regular su uso y gobernanza

El Consejo de Ministros, a propuesta del Ministerio para la Transformación Digital y de la Función Pública, ha aprobado el Proyecto de Ley Orgánica para el buen uso y la gobernanza de la inteligencia artificial, una norma llamada a convertirse en la pieza central del marco regulador español sobre IA. El texto adapta al ordenamiento jurídico español el Reglamento Europeo de Inteligencia Artificial (RIA), en vigor desde agosto de 2024, y pretende garantizar que el desarrollo y uso de estas tecnologías se realice bajo criterios de supervisión humana, transparencia, protección de derechos fundamentales y seguridad jurídica.

La iniciativa llega en un momento de rápida expansión de la inteligencia artificial en múltiples ámbitos de la vida social, económica y administrativa, incluyendo sectores como la educación, el empleo, los servicios públicos, la atención sanitaria o la protección de colectivos vulnerables. Precisamente por ello, el proyecto de ley incorpora mecanismos destinados a prevenir usos potencialmente perjudiciales de estas tecnologías y a reforzar las garantías para la ciudadanía.

Una norma para aplicar en España el Reglamento Europeo de IA.

El Reglamento Europeo de Inteligencia Artificial constituye la primera regulación integral de estas tecnologías a escala mundial. Su objetivo es clasificar los sistemas de IA según el nivel de riesgo que presentan para las personas y establecer obligaciones proporcionales a dichos riesgos. Los sistemas considerados de riesgo inaceptable quedan prohibidos, mientras que aquellos clasificados como de alto riesgo deben cumplir exigentes requisitos de transparencia, supervisión y control.

La nueva ley española no sustituye al reglamento europeo, que es de aplicación directa en todos los Estados miembros, sino que desarrolla los elementos que deben concretarse a nivel nacional, como la identificación de las autoridades competentes para supervisar su cumplimiento o el establecimiento del régimen sancionador correspondiente.

Según ha señalado el ministro para la Transformación Digital y de la Función Pública, Óscar López, la norma busca combinar innovación y protección de derechos fundamentales, apostando por una inteligencia artificial “confiable, ética y humanista”.

Supervisión humana y protección de los derechos fundamentales

Uno de los principios centrales del proyecto es la obligación de garantizar supervisión humana en aquellos sistemas de inteligencia artificial que puedan afectar a los derechos fundamentales de las personas. La norma pretende evitar que decisiones con consecuencias relevantes para la ciudadanía queden completamente automatizadas y sin control humano.

Este aspecto resulta especialmente relevante en ámbitos como el empleo, la educación, la justicia o los servicios públicos, donde las decisiones automatizadas podrían influir en procesos de selección, acceso a prestaciones, evaluación académica o reconocimiento de derechos. La ley refuerza asimismo las exigencias de transparencia algorítmica para que el funcionamiento de estos sistemas pueda ser comprendido, auditado y sometido a control.

Desde la perspectiva psicológica, estas garantías adquieren especial importancia en contextos donde la IA pueda influir sobre el comportamiento humano, la toma de decisiones o la evaluación de características personales. La normativa pretende precisamente impedir que estas tecnologías se utilicen de manera que comprometan la autonomía, la dignidad o la igualdad de las personas.

Sistemas prohibidos: manipulación psicológica, explotación de vulnerabilidades y clasificación biométrica

Entre los aspectos más destacados de la norma figura la identificación de prácticas expresamente prohibidas por considerarse incompatibles con los derechos fundamentales.

Entre ellas, se encuentran los sistemas que emplean técnicas subliminales o manipuladoras para influir en el comportamiento de las personas sin su consentimiento cuando puedan causar perjuicios significativos. El Gobierno cita como ejemplo los sistemas capaces de detectar personas con problemas de adicción y utilizar técnicas psicológicas para inducirlas a realizar conductas perjudiciales.

También quedarán prohibidos los sistemas que exploten vulnerabilidades vinculadas a la edad, la discapacidad o la situación socioeconómica de una persona para alterar sustancialmente su comportamiento. Un ejemplo mencionado por el Ejecutivo son losjuguetes inteligentes habilitados con IA que animan a los niños a completar retos que les producen o pueden producirles daños físicos graves.

La ley veta, además, los sistemas que clasifiquen a las personas mediante datos biométricos para inferir aspectos como la orientación política, religiosa o sexual, así como aquellos destinados a puntuar individuos o grupos en función de comportamientos sociales o características personales para determinar el acceso a ayudas, subvenciones, créditos u otros beneficios.

Estas prohibiciones conectan directamente con preocupaciones ampliamente debatidas por la comunidad científica y profesional acerca de los riesgos de discriminación, manipulación psicológica y vulneración de derechos asociados a determinadas aplicaciones de la inteligencia artificial.

Prohibición de los “deepfakes” sexuales

Una de las principales novedades introducidas en esta regulación es la prohibición de los sistemas de IA destinados a generar o difundir “deepfakes” sexuales. La medida surge tras la creciente preocupación generada por la creación de imágenes falsas de contenido sexual mediante herramientas de inteligencia artificial, especialmente, cuando afectan a mujeres y menores de edad.

La iniciativa fue planteada por el Gobierno de España en el marco de la reforma de la normativa europea sobre inteligencia artificial y posteriormente recibió el respaldo de Francia durante las negociaciones comunitarias. El pasado 7 de mayo de 2026, la Unión Europea acordó incorporar esta prohibición, que impedirá la introducción en el mercado, la puesta en servicio y el uso de sistemas de inteligencia artificial diseñados para generar imágenes, vídeos o audios sexuales sin el consentimiento de las personas afectadas.

La medida, ya incorporada al marco europeo de regulación de la inteligencia artificial y recogida por España en este proyecto de ley como parte de su adaptación al Reglamento europeo, supone impedir la comercialización, puesta en servicio o utilización de sistemas diseñados específicamente para generar este tipo de contenido

Asimismo, los contenidos sintéticos generados mediante inteligencia artificial deberán identificarse claramente para que la ciudadanía pueda distinguir entre materiales reales y contenidos artificiales.

Un nuevo marco de gobernanza

La ley establece además una arquitectura institucional destinada a supervisar el cumplimiento de la normativa.

La Agencia Española de Supervisión de Inteligencia Artificial (AESIA) asumirá un papel central en la vigilancia de numerosos sistemas de IA, sobre todo, aquellos relacionados con ámbitos como el empleo, la educación o determinadas aplicaciones biométricas. También participarán la Agencia Española de Protección de Datos (AEPD), en los asuntos relacionados con protección de datos y biometría, y el Consejo General del Poder Judicial (CGPJ) en los sistemas vinculados a la Administración de Justicia.

La norma prevé asimismo mecanismos reforzados de coordinación entre organismos supervisores y establece a la AESIA como punto único de contacto para cuestiones relacionadas con la aplicación del Reglamento europeo.

Sanciones de hasta 35 millones de euros

El proyecto incorpora un régimen sancionador específico que clasifica las infracciones en leves, graves y muy graves.

Las sanciones podrán alcanzar hasta 35 millones de euros o el 7% del volumen de negocio en los casos más graves, mientras que para las infracciones leves podrán llegar hasta 500.000 euros o el 0,5% del volumen de negocio.

El texto prevé criterios de proporcionalidad que tendrán en cuenta factores como la gravedad de la conducta, la reincidencia, la intencionalidad o el tamaño de la empresa, incorporando además mecanismos que favorezcan la adopción de medidas correctoras antes que la mera imposición de sanciones.

La IA en las administraciones públicas

Más allá de la adaptación al Reglamento europeo, la ley incorpora medidas específicas para impulsar un uso responsable de la inteligencia artificial en el sector público estatal.

Entre ellas, destaca la creación de un inventario de los sistemas de IA utilizados en procedimientos administrativos, con el objetivo de reforzar la transparencia y facilitar el control público sobre estas herramientas. Asimismo, se crea la figura del delegado de IA, encargado de coordinar el cumplimiento normativo y asesorar en los proyectos tecnológicos y procesos de contratación pública relacionados con esta materia.

La norma también contempla actuaciones de formación y sensibilización dirigidas a los empleados públicos para favorecer una implantación responsable de estas tecnologías.

Entornos controlados de pruebas para fomentar la innovación

Otro de los elementos relevantes del proyecto es la regulación de los denominados “sandboxes” o entornos controlados de pruebas.

Estos espacios permiten que empresas y desarrolladores experimenten con nuevas aplicaciones de inteligencia artificial bajo supervisión institucional y en condiciones que faciliten el cumplimiento de la normativa. La AESIA será responsable del sandbox nacional previsto por el Reglamento europeo, aunque la ley permite también la creación de otros entornos sectoriales específicos.

Estado actual de la tramitación parlamentaria

Tras su aprobación por el Consejo de Ministros, el texto ya ha sido remitido al Congreso de los Diputados para iniciar su tramitación parlamentaria, a partir de la cual, podrá ser objeto de enmiendas y modificaciones, y completar todo su recorrido parlamentario correspondiente, antes de convertirse en una norma plenamente vigente.

Fuente: Supervisión humana, protección de derechos y nuevas garantías frente a los riesgos de la IA: el Gobierno impulsa una Ley Orgánica para regular su uso y gobernanza - Infocop