Inteligencia Artificial Con Compliance: Desafíos y oportunidades

Recientemente en agosto de este año fue aprobado el Reglamento Europeo de Inteligencia Artificial (IA) de la Unión Europea el cual es el primer marco legal en el mundo que regula el uso de la IA convirtiéndose en una legislación histórica que tendrá un impacto significativo en el desarrollo y uso de la IA en Europa y más allá. Su objetivo es garantizar que los sistemas de IA sean confiables, éticos y seguros, y que su uso se realice de manera responsable y previniendo riesgos, en otras palabras, la inteligencia artificial se debe utilizar con compliance.
No cabe duda que la inteligencia artificial es un campo en rápido desarrollo, con el potencial de revolucionar la forma en cómo nos comportamos y sin duda alguna la forma en cómo realizamos nuestras actividades. Sin embargo, también es un campo que plantea una serie de desafíos éticos y legales.

Pero antes de entrar en los desafíos de la IA, hagamos un breve repaso de cómo se ha relacionado la ética con los seres humanos y nuestra forma de vida.

La ética, la rama de la filosofía que explora los principios y valores morales, ha sido una preocupación central del pensamiento humano desde la antigüedad. Desde las primeras indagaciones filosóficas hasta los debates contemporáneos, la búsqueda de la comprensión del bien y el mal, lo correcto y lo incorrecto, y los fundamentos de una sociedad justa han impulsado la evolución del pensamiento ético.

En la antigua Grecia, filósofos como Sócrates, Platón y Aristóteles sentaron las bases de la ética occidental. Se enfrentaron a preguntas sobre la virtud, la justicia y la buena vida, estableciendo conceptos fundamentales que continúan dando forma al discurso ético actual. Sócrates, a través de su método de interrogación, enfatizó el autoconocimiento y la búsqueda de la verdad como base de la acción moral. Platón, en su teoría de las Formas, postuló la existencia de conceptos ideales como la justicia y la bondad, que sirven como estándares para la conducta humana. Aristóteles, con su enfoque en la ética de la virtud, destacó la importancia de cultivar rasgos de carácter como el coraje, la templanza y la justicia para lograr una vida floreciente.

A lo largo de los siglos, el pensamiento ético evolucionó y se diversificó. Las tradiciones religiosas, como el Cristianismo, el Islam y el Budismo, ofrecieron marcos morales basados en mandamientos divinos, prácticas espirituales y la búsqueda de la iluminación. La era de la Ilustración vio el surgimiento de la ética deontológica, defendida por Immanuel Kant, que enfatizó la importancia de las reglas y deberes morales universales. El utilitarismo, defendido por John Stuart Mill y Jeremy Bentham, propuso que la acción moralmente correcta es la que maximiza la felicidad y el bienestar para el mayor número de personas.

Sin embargo, en la sociedad contemporánea, la ética enfrenta nuevos desafíos y complejidades. Los avances en tecnología, la globalización y la creciente conciencia social han dado lugar a nuevos dilemas éticos relacionados con la inteligencia artificial, la sostenibilidad ambiental, la justicia social y la bioética. Hoy en día, los objetivos de la ética se extienden más allá de la conducta individual para abarcar preocupaciones sociales más amplias. La investigación ética moderna busca abordar las injusticias sistémicas, promover la inclusión y la diversidad, y fomentar un mundo más equitativo y sostenible, un mundo preocupado por hacer las cosas bien.

Esta evolución continua del pensamiento ético refleja la búsqueda continua de la humanidad para comprender y vivir según principios morales que guíen las acciones individuales y den forma a una sociedad justa y compasiva. Si bien los desafíos y contextos específicos pueden cambiar, la búsqueda fundamental de la comprensión ética sigue siendo un aspecto vital de la experiencia humana la cual es y debe ser trasladada al interior de las empresas mediante un instrumento conocido como: compliance.

Esta evolución es particularmente crítica frente a los rápidos avances en la inteligencia artificial. A medida que los sistemas de IA influyen cada vez más en nuestras vidas a través de las interacciones sociales, desde la atención médica, nuestras finanzas hasta la justicia penal, las consideraciones éticas que rodean su desarrollo e implementación se vuelven primordiales. 
Así como los antiguos filósofos lucharon con preguntas sobre la moralidad humana, ahora enfrentamos el desafío de garantizar que estas poderosas tecnologías estén dotadas de principios éticos que se alineen con nuestros valores. Esto significa confrontar los riesgos reales del sesgo algorítmico, los resultados discriminatorios y la posible transgresión de la privacidad, al mismo tiempo que nos esforzamos por aprovechar el máximo potencial de la IA para el bien. 

Dicho lo anterior, el camino a seguir requiere un examen cuidadoso de estos desafíos y un compromiso para desarrollar e implementar sistemas de IA, haciéndolo con compliance, para que no solo sean inteligentes sino también éticamente sólidos. Dos de los desafíos a considerar y que a continuación veremos son: los sesgos en los sistemas de IA y la falta de transparencia en los mismos.

Los sesgos.
La integración de la inteligencia artificial en nuestras actividades diarias promete revolucionar la forma en cómo vivimos, ofreciendo capacidades sin precedentes para eficientar tiempos y hacernos más fácil la vida. Sin embargo, este salto tecnológico trae consigo un conjunto de desafíos éticos de carácter crítico que deben abordarse para garantizar la equidad, la precisión y el respeto de los derechos individuales.

En primer lugar, el riesgo de sesgo en los sistemas de IA representa una amenaza significativa para cualquier empresa si antes no previene mediante la implementación de un compliance integral su uso responsable. El problema del sesgo se extiende a cualquier ámbito donde se aplique la IA, incluyendo la selección de personal, la atención al cliente, la publicidad dirigida y la toma de decisiones empresariales.

Imaginemos, por ejemplo, una corporación que utiliza un sistema de IA para filtrar currículums. Si los datos con los que se entrenó el sistema reflejan sesgos existentes en el mercado laboral como lo pueden ser discriminación de género o raza, la IA podría ejecutar una y otras vez estas acciones de desiguldad al descartar candidatos bajo estas características. Esto no solo perjudica a los individuos afectados, sino que también afecta la imagen reputacional de la empresa al quedar expuesta como una empresa que discrimina. 

Para prevenir estos problemas, es fundamental que las empresas implementen un programa de compliance integral que aborde el uso responsable de la IA. Esto incluye:

• Auditar los datos: Analizar los datos utilizados para entrenar los sistemas de IA e identificar posibles sesgos.
• Diversificar los equipos: Asegurar que los equipos que desarrollan y aplican la IA sean diversos en términos de género, raza, origen y otras características.
• Implementar mecanismos de control: Establecer procesos para supervisar los resultados de la IA y detectar posibles discriminaciones.
• Ser transparente: Explicar cómo funciona la IA y qué medidas se toman para prevenir el sesgo.
• Entrenamiento con compliance: Brindar capacitación y formación al personal que emplea las herramientas de IA.

Falta de transparencia.

En segundo lugar, la falta de transparencia en los sistemas de IA crea una preocupante brecha de responsabilidad. La naturaleza de caja negra de muchos algoritmos de IA dificulta la comprensión del razonamiento detrás de sus decisiones. 

En el contexto corporativo, la falta de transparencia en los sistemas de IA puede generar no sólo desconfianza sino dificultar el que una empresa esté en compliance. La naturaleza de caja negra de muchos algoritmos de IA, donde el proceso de toma de decisiones es opaco e inexplicable, trae como consecuencias serias dudas sobre la responsabilidad y la capacidad de supervisión. 

Para abordar esta problemática, proponemos que las empresas deben priorizar la figura del compliance previo a la incorporación de la IA, esto con la finalidad de fomentar un gobierno corporativo y una cultura de transparencia.

Algunas recomendaciones para fomentar la transparencia son:

• Modelos de IA fáciles de interpretar.
• Documentar el desarrollo y funcionamiento de la IA.
• Registrar las variables, los datos de entrenamiento y la lógica del algoritmo facilita su comprensión.
• Implementar tendencias de white box o cajas abiertas que permiten abrir la caja negra y visualizar el razonamiento de la IA.

En conclusión, al igual que muchos años los filósofos griegos se enfrentaron a las preguntas fundamentales sobre la virtud y la justicia para guiar la conducta humana, hoy nos encontramos ante un nuevo desafío ético con los retos y desafíos que trae la inteligencia artificial. 
No podemos simplemente quedarnos en la pasividad y dejar que la IA haga lo suyo o implementar IA en nuestras organizaciones sin antes comprender los riesgos que esto conlleva. Debemos hacer las cosas bien, debemos hacer las cosas con compliance, asegurándonos de que la IA se utilice para el beneficio de la sociedad y no para perpetuar o amplificar las desigualdades existentes.

La ética, piedra angular del compliance será la brújula que deba guiar nuestros pasos en el uso de la Inteligencia Artificial. Además también resultará en una estrategia de sostenibilidad empresarial a largo plazo razón por la cual las empresas deben voltear a ver el compliance como una acción prioritaria que les permita invertir en prevención y fomentar una cultura de transparencia para generar confianza y facilitar el cumplimiento normativo.