Por
Carlos Alberto Saiz Peña
Modelo de gobierno de IA
Es fundamental definir un modelo de gobierno de IA en la organización. Este modelo debe establecer claramente los roles y competencias de las áreas principales involucradas en el uso, desarrollo y supervisión de la inteligencia artificial. Hay tres factores clave a considerar en el desarrollo de este documento: a) El modelo de gobierno de la IA tiene que estar alineado con el Plan Estratégico de IA de la organización (si es que existe). Es decir, el propio fenómeno de la IA tiene tal calado que muchas compañías han diseñado un plan estratégico sobre cómo van a incorporar y ayudarse de la IA para mejorar sus procesos, su negocio y sus resultados en los próximos 2-3 años. Y se ha hecho de muy diferentes maneras, a través de áreas de innovación, creando institutos internos o centros de competencias especializados, dotando de medios e inversión a la compañía filial que presta servicios TI al resto de empresas del grupo empresarial, etc.
Evidentemente, el modelo de gobierno que vayamos a diseñar (con el prisma de cumplimiento, riesgos y supervisión) tiene que estar incardinado y ser un apéndice del Plan Estratégico de IA. b) Recordemos que el RIA no regula ninguna función o rol específico respecto al propio cumplimiento del RIA, es decir, no existe una regulación profesional similar a la que hizo el RGPD sobre el DPO. Por lo tanto, a día de hoy no tenemos definida normativamente una figura del tipo CAIO (Chief Artificial Intelligence Officer). Por ello, forma parte de la libertad de las organizaciones estructurar su modelo interno de gobierno, cumplimiento y control respecto a la IA y dar respuesta a la pregunta de “¿quién debe ser la persona o área que lidere este proceso de adecuación, cumplimiento y supervisión de las obligaciones que establecerá este Reglamento de IA?”
Hablando propiamente de cumplimiento, es muy posible que se comience con Comités donde participen las áreas que ya tienen otros cometidos (Riesgos, Compliance, DPO, Jurídico…) y posiblemente más adelante, conforme avance la madurez de la norma, las buenas prácticas, las sanciones… se establezcan funciones propias y específicas vinculadas a IA Compliance, especialmente en grandes compañías.
Será importante también definir dentro de ese modelo de gobierno quién será el interlocutor válido de la compañía con las Autoridades de Control (AESIA en España) para los diferentes procedimientos que la normativa prevé. c) Considero muy importante, especialmente en grandes compañías, que el modelo de gobierno que se proponga esté alineado con el archiconocido concepto de las “3 Líneas de Defensa” que lleva funcionando con éxito desde hace años en las corporaciones. Creo que tiene un encaje adecuado, teniendo en cuenta el tipo de obligaciones del RIA, su enfoque a riesgos y, sobre todo, el impacto que la implantación de la IA va a tener en los muy diferentes procesos de las organizaciones. En la práctica, a día de hoy, muchas empresas están optando por generar diferentes Comités (estratégicos, tácticos y operativos) para definir de forma clara el rol que las áreas involucradas deben tener al respecto (áreas de negocio, Innovación, CDO, IT, Ciberseguridad, Legal y Compliance, DPO, RRHH, Auditoría, etc.) dentro cada una de su línea de defensa.
Es fundamental que el modelo de gobierno que se proponga esté alineado con el archiconocido concepto de las “3 Líneas de Defensa” que lleva funcionando con éxito desde hace años Ya existen buenas guías y recomendaciones, como por ejemplo las de ISMS Forum, que nos sugieren cómo configurarlo.
Concienciación sobre riesgos de IA
Otra de las tareas que ocupan los primeros puestos en esta adecuación al RIA es el diseño y ejecución de un Plan de Concienciación inicial, tanto a Directivos como a personal, que va a ser importante en el correcto despliegue de sistemas de IA en la organización.
El hecho de proponerlo inicialmente en el proyecto no es tanto para cumplir con las obligaciones del artículo “alfabetización en materia de IA” (que requerirán de un programa mucho más exhaustivo más adelante), sino más bien para:
Generar una concienciación mínima sobre el impacto que una norma como el RIA va a tener.
Dar a conocer los posibles impactos y responsabilidades del no-cumplimiento del RIA, llegado el caso.
Fomentar una cultura positiva de implantación de sistemas IA, sin miedo, pero midiendo los riesgos y de manera alineada a los nuevos requisitos normativos.
Ejemplificar por qué un mal uso o implantación de sistemas de IA puede tener nefastas consecuencias para nuestros clientes y para nuestra compañía.
En el siguiente capítulo hablaremos de cómo enfrentarse a la realización del inventario de sistemas de IA en la empresa.
Fuente de la noticia: El Confidencial
.jpg)
02 de Octubre
30 de Septiembre
28 de Septiembre
26 de Septiembre
.png)
.png)
.jpg)
.jpg)
.png)
.jpg)
