La Sala de lo Constitucional de la Corte Suprema de Justicia (CJS) estableció estándares éticos y legales para el uso de la Inteligencia Artificial (IA) en diferentes instituciones del Estado.
La resolución emitida por un proceso de inconstitucionalidad, aborda el uso de la IA en dos ámbitos: en la administración pública y en la de justicia.
Indica que el uso de esta herramienta en el ámbito jurídico no puede reemplazar las tareas de fundamentación de peticiones de las partes (abogados y fiscales auxiliares) y la labor de los jueces al dar respuesta a estas, por el “uso indiscriminado” de la inteligencia artificial.
Por ello, la Sala mantiene que deben basarse en el respeto a los derechos. Especifica estándares, según los cuales el derecho a un tribunal independiente e imparcial implica el acceso a un “juez humano”, mientras que el derecho a la defensa garantiza el acceso a un “abogado humano”, evitando que estas funciones sean asumidas por sistemas automatizados.
Los magistrados enfatizan que la incorporación de la IA debe ser bajo la vigilancia y control del Estado. “En todas las actividades en que se emplee se deben respetar los principios de equidad, transparencia, responsabilidad, consentimiento informado, inclusión y no discriminación”, sostienen, amparándose también en la Ley de Fomento a Inteligencia Artificial y Tecnologías (LFIAT).
Otros de los criterios a los que han orientado y sobre los que deben regirse los tribunales son: la transparencia en su uso, la privacidad y protección de los datos personales, la herradicación de formas de descriminación derivadas de sesgos algorítmicos, estándares de comportamiento que se adecúen a mandatos legales, entre otros.
En cuanto a su aplicación en la administración pública, reconoce que la IA puede aumentar eficiencia y disminuir errores en decisiones que “no son manipulables por intereses personales”.
Sin embargo, insiste en que deben funcionar bajo supervisión: “El reconocimiento de estas ventajas no debe conducir a ignorar los riesgos que trae consigo la automatización de la actuación de la administración pública. Por ello, es
imprescindible que tales actos estén sujetos al control humano”.
Esta supervisión, ya sea de manera previa en el diseño y programación de los sistemas, o de forma posterior mediante la revisión de las decisiones, con el objetivo de garantizar la “fiabilidad” de los resultados y la legalidad en el uso de este tipo de tecnología.
Los magistrados advierten, además, sobre los riesgos, entre estos la posible presencia de sesgos en los sistemas, la opacidad en la toma de decisiones automatizadas, la afectación a la independencia judicial y la necesidad de verificación constante de los resultados generados
Asimismo, indican que el uso de estas tecnologías requiere mecanismos que permitan identificar cuándo han sido utilizadas, así como asegurar la revisión de las decisiones en las que intervienen.
“Siempre se permita el escritinio sobre las actuaciones y decisiones en que se usen herramientas de IA, mediante el acceso a la debida información y el uso de recursos que deban ser resueltos por autoridades humanas”, advierte la Sala.
La CSJ explicó que el caso surgió porque ciudadanos utilizaron inteligencia artificial para redactar una demanda y debido a esto consideró la necesidad de explicar cómo funciona. Para esto, se remitió a las reglas nacionales sobre inteligencia artificial que se encuentran vigentes en el país y a normativas internacionales que deben aplicarse en su desarrollo.
A partir de ello, analizó su interacción con los derechos fundamentales, reconociendo sus beneficios y advirtiendo los riesgos al no utilizarse adecuadamente.
[Leer M�s]
21 de Septiembre
20 de Septiembre
19 de Septiembre
18 de Septiembre
15 de Septiembre
.png)
.png)
.png)
.jpg)
.jpg)
.jpg)
QUIÉNES SOMOS
La Asociación
Junta Directiva
Sedes
Noticias
Artículos de Interés
Canal Ético
ACERCA DEL COMPLIANCE
Qué es
Compliance Officer
Marco Normativo Internacional
Cual es tu nivel de Compliance
FORMACIÓN
Eventos
Cursos Acreditados
Agenda Formativa
Cómo acreditar un curso
CERTIFICACIÓN
Certificación Profesional WCA
Certificación Sistemas de Compliance
SOCIOS
Ventajas de Asociarse
Entidades Asociadas
Profesionales Asociados
Solicitud de Adhesión
LEGAL
Aviso Legal
Política de Privacidad
Política de Cookies
Propiedad Intelectual
Condiciones de Contratación
.jpg)