El CGPJ prohíbe a los jueces y magistrados utilizar chats de IA no facilitados por la Administración

El Pleno del Consejo General del Poder Judicial aprueba la Instrucción 2/2026, sobre la utilización de sistemas de inteligencia artificial en el ejercicio de la actividad jurisdiccional, en virtud de la cual establece criterios, pautas de uso y principios para la utilización de dichos sistemas de IA por jueces y magistrados en el ejercicio de la actividad jurisdiccional.A estos efectos define el sistema de IA como todo sistema basado en máquinas que, de conformidad con el Reglamento de Inteligencia Artificial, esté diseñado para funcionar con distintos niveles de autonomía y que puede mostrar capacidad de adaptación tras el despliegue, y que, para objetivos explícitos o implícitos, infiere de la información de entrada que recibe la manera de generar resultados de salida, como predicciones, contenidos, recomendaciones o decisiones, que pueden influir en entornos físicos o virtuales.

La instrucción se dicta en un contexto de progresiva incorporación de sistemas de inteligencia artificial en la Administración de Justicia, prestando especial atención a las aplicaciones de IA generativa por su accesibilidad, potencial opacidad técnica y riesgos para los derechos y libertades de las personas, preservando, en todo caso, la independencia judicial y la confianza en el sistema de justicia.

Su ámbito de aplicación se extiende a todos los sistemas de IA, incluidas expresamente las herramientas de IA generativa, siempre que puedan ser utilizadas en el marco de la función jurisdiccional. La utilización de estos sistemas debe realizarse, en todo caso, con pleno respeto a la Ley Orgánica del Poder Judicial, a las leyes procesales, a la normativa que resulte de aplicación y a la Política de uso de la inteligencia artificial en la Administración de Justicia aprobada por el Comité Técnico Estatal de la Administración Judicial Electrónica.

El incumplimiento de la Instrucción puede dar lugar a las responsabilidades que procedan conforme a la LOPJ, sin perjuicio de la adopción de medidas preventivas o correctoras en el ámbito organizativo o de gobierno del Poder Judicial.

Principios de utilización

La utilización de sistemas de IA en el ejercicio de la actividad jurisdiccional debe someterse a los siguientes principios:

• Principio de control humano efectivo, conforme al cual los sistemas de IA no pueden operar de forma autónoma en la toma de decisiones judiciales, en la valoración de hechos o pruebas ni en la interpretación y aplicación del Derecho, sino que estará siempre sometida a un control humano real, consciente y efectivo por parte de jueces y magistrados.
• Principio de no sustitución de los jueces y magistrados, de modo que los sistemas de IA no podrán sustituir en ningún caso a jueces y magistrados en el ejercicio de la función jurisdiccional.
• Principio de responsabilidad judicial, correspondiendo a los órganos judiciales la responsabilidad plena y exclusiva de las resoluciones, decisiones y actuaciones jurisdiccionales con independencia de que se haya utilizado IA como herramienta de apoyo.
• Principio de independencia judicial, pues la utilización de sistemas de IA debe realizarse de manera compatible con la independencia judicial, sin que los resultados generados condicionen, directa o indirectamente, la libertad de criterio del órgano jurisdiccional.
• Principio de respeto a los derechos fundamentales reconocidos en la Constitución y en el Derecho de la Unión Europea y, en particular, la tutela judicial efectiva, la igualdad, la no discriminación y la protección de datos personales.
• Principios de confidencialidad y seguridad, de tal modo que el tratamiento de datos judiciales mediante sistemas de IA garantice la confidencialidad, integridad y seguridad de la información, evitando accesos no autorizados, usos indebidos o transferencias no permitidas.
• Principio de prevención de sesgos algorítmicos, debiendo adoptarse las cautelas necesarias para identificar y evitar sesgos algorítmicos derivados de la utilización de sistemas de IA.
• Principios de proporcionalidad y uso limitado, por cuanto la utilización de estos sistemas de IA debe ser proporcionada a la finalidad perseguida y limitada a aquellos supuestos en los que puedan resultar útiles y eficaces como instrumento de apoyo o asistencia a la actividad jurisdiccional.
• Principio de formación y capacitación de jueces y magistrados sobre el uso de los sistemas de IA en el ámbito de la Administración de Justicia.

Sistemas de IA y usos permitidos en el ejercicio de la actividad jurisdiccional

En el ejercicio de la actividad jurisdiccional, los jueces y magistrados solo pueden utilizar aquellos sistemas de inteligencia artificial, incluidas las herramientas de IA generativa, que les hayan sido facilitados por las Administraciones competentes en materia de justicia o por el propio Consejo General del Poder Judicial. Estos sistemas deben someterse a controles de calidad y auditoría por parte del CGPJ.

Los sistemas de IA permitidos solo pueden utilizarse dentro de los usos expresamente autorizados en la instrucción, quedando excluido cualquier empleo distinto.

Los sistemas de IA únicamente pueden utilizarse como instrumentos de apoyo o asistencia por jueces y magistrados en el ejercicio de la actividad jurisdiccional. En particular, se admite su uso para la búsqueda y localización de información jurídica relevante, para el análisis, clasificación y estructuración de información, documentos y datos contenidos en actuaciones judiciales, para la elaboración de esquemas, resúmenes o borradores de trabajo interno sin carácter decisorio y para tareas organizativas o auxiliares relacionadas con la preparación del trabajo jurisdiccional.

Ahora bien, los jueces y magistrados solo pueden utilizar borradores generados mediante sistemas de IA que les hayan sido facilitados por la Administraciones competentes en materia de justicia o por el Consejo General del Poder Judicial, como instrumentos de apoyo o asistencia para el ejercicio de la actividad jurisdiccional. Estos borradores exigen una revisión y validación personal, completa y crítica por parte del juez o magistrado, que mantiene en todo momento su responsabilidad exclusiva sobre la resolución final.

Los borradores generados mediante IA no tienen la consideración de decisiones automatizadas y deben poder ser generados únicamente a voluntad del juez, siendo además libremente modificables antes de su validación definitiva.

Usos no permitidos de los sistemas de IA

Se prohíbe expresamente la utilización de sistemas de IA para la sustitución, automatización o delegación de la toma de decisiones judiciales, de la valoración de los hechos o de las pruebas, o de la interpretación y aplicación del derecho; para utilizar los resultados generados que condicionen de manera directa o indirecta la independencia judicial o la libertad de criterio de los jueces, juezas, magistrados y magistradas; para incorporarlos a resoluciones judiciales de contenidos generados por dichos sistemas sin una validación crítica, completa y personal por parte de los jueces y magistrados; para el tratamiento de datos personales especialmente protegidos o de información sujeta a deberes reforzados de confidencialidad, fuera de los supuestos expresamente autorizados por la normativa vigente; para su empleo con fines de perfilado de personas, predicción de comportamientos, evaluación de riesgos o clasificación de sujetos, fuera de los supuestos expresamente autorizados por la normativa vigente; y, en definitiva, para cualquier uso contrario a los criterios, pautas de uso y principios que se establecen.

Sistemas de IA no permitidos

Asimismo, queda prohibida la utilización de sistemas de IA no facilitados por las Administraciones competentes o por el CGPJ en el ejercicio de la actividad jurisdiccional.

No obstante, estos sistemas pueden emplearse para finalidades de preparación o estudio, tales como la elaboración de resúmenes o traducciones o el análisis de fuentes jurídicas, doctrinales o técnicas, y siempre que la información utilizada a tal fin proceda única y exclusivamente de fuentes abiertas.

Pero en ningún caso podrán incorporarse a estos sistemas de IA datos judiciales.

Protección de datos personales

El uso de sistemas de IA debe respetar estrictamente la normativa de protección de datos personales, garantizando en todo caso los principios de licitud, lealtad, transparencia, minimización de datos, limitación de la finalidad, exactitud, integridad y confidencialidad.

Los datos personales obtenidos en el ejercicio de la función jurisdiccional solo pueden utilizarse cuando sea estrictamente necesario para la finalidad de apoyo o asistencia pretendida y de forma proporcionada con dicha finalidad, quedando prohibidos los tratamientos masivos o indiscriminados.

Los sistemas de IA utilizados deben incorporar medidas técnicas y organizativas que garanticen la seguridad de los datos tratados, la prevención de accesos no autorizados, la trazabilidad de las operaciones realizadas y la imposibilidad de reutilización de los datos con fines distintos de aquellos para los que fueron tratados.

Fuente: https://noticias.juridicas.com/

LINK DE LA NOTICIA