.jpg)
.jpg)
Un nuevo estudio de IBM (NYSE: IBM) muestra que los incidentes relacionados con la IA están llegando a los consejos de administración y comités ejecutivos en España, mientras la gobernanza y la rendición de cuentas sobre los riesgos avanzan a un ritmo distinto al de la adopción de la tecnología.
En concreto, el 82% de los directivos encuestados en España afirma que un incidente relacionado con la IA, como el fallo de un agente, la exposición de datos, un error en una decisión apoyada por IA o una brecha de seguridad, llegó al consejo de administración o al comité ejecutivo durante el último año. Sin embargo, únicamente el 36% modificó su política o marco de gobernanza como respuesta.
Esta diferencia entre los riesgos identificados y las medidas adoptadas también se refleja en la forma en que las organizaciones gestionan el despliegue de la tecnología. Cuando el despliegue de la IA supera la preparación de los marcos de gobernanza y cumplimiento, el 65% de los directivos encuestados en España afirma que continúa dentro de los límites de riesgo acordados mientras adapta la gobernanza, frente al 30% que opta por retrasarlo hasta contar con los mecanismos adecuados.
Esta situación cobra especial relevancia ante el avance de la IA agéntica, que introduce nuevos desafíos de supervisión a medida que los sistemas adquieren mayor autonomía. Según la encuesta, realizada a 540 directivos de organizaciones en España, el 25% afirma que ya utiliza IA agéntica en producción y el 73% espera que los agentes tengan algún grado de autonomía en la toma de decisiones para 2027. Pese a ello, solo el 34% considera que su gobernanza actual está preparada para ampliar este tipo de despliegues.
Ana Paula Assis, vicepresidenta sénior de IBM y presidenta para EMEA y APAC, afirmó: “El debate sobre la IA ha pasado de la adopción a la gobernanza y la rendición de cuentas. A medida que las organizaciones avanzan de los asistentes de IA a los agentes autónomos, la gobernanza ya no puede tratarse como un mero ejercicio de cumplimiento. Se ha convertido en un requisito empresarial y en un facilitador de valor.
Las empresas que puedan ampliar el uso de la IA con responsabilidad y confianza serán las que obtengan el mayor valor empresarial. Esto exige integrar la gobernanza en el funcionamiento de los agentes, con límites claros sobre lo que pueden hacer, responsabilidades definidas cuando algo sale mal y controles que funcionen en tiempo real”.
Responsabilidad y rendición de cuentas
Casi la totalidad de los directivos encuestados en España (99%) han asignado formalmente al consejo de administración la responsabilidad sobre el riesgo de la IA, incluido un 27% que cuenta con un comité específico de IA a ese nivel. Sin embargo, el estudio no identifica un consenso claro sobre quién debe responder por los resultados adversos de los agentes de IA. El CIO o el CTO es la función citada con mayor frecuencia, aunque solo por el 12% de los encuestados en España.
También hay distintas opiniones sobre quién debería asumir la responsabilidad legal si un sistema de IA causa daños significativos. El 19% considera que debería repartirse proporcionalmente entre la organización que despliega la IA y el proveedor; el 18% apunta a la necesidad de un marco regulatorio más adecuado, y el 14% cree que la responsabilidad debería recaer en el proveedor de IA o tecnología.
Para gestionar agentes de IA cada vez más autónomos, los directivos españoles consideran necesarias varias medidas: marcos legales o contractuales que definan la responsabilidad del proveedor por los fallos de los agentes (33%), umbrales claros para solicitar intervención humana (31%), supervisión en tiempo real y registros de auditoría de las decisiones y acciones de los agentes (29%), y la capacidad para detener de inmediato su actividad en toda la organización (30%).
Otros resultados del estudio
Riesgo financiero. El 53% de los directivos de nuestro país gestiona las herramientas de IA generativa y los sistemas de IA agéntica como categorías de riesgo distintas, con marcos de gobernanza separados Otro 40% aplica un marco común, con controles adicionales para la IA agéntica. Por su parte, solo el 32 % cuenta con una cuantificación formal del riesgo financiero que generan las carencias en la gobernanza de la IA, revisada por el consejo de administración.
Cadena de suministro. Casi la mitad (49%) reconoce carencias o limitaciones en la cobertura que su marco de gobernanza ofrece para los sistemas y modelos de IA utilizados por proveedores, socios tecnológicos y participantes de la cadena de suministro. Solo el 20% supervisa de forma continua el riesgo de IA de terceros, y el 12% aplica requisitos independientes de garantía o certificación.
Ley de IA de la UE. En España, el 44% de los directivos está acelerando la inversión en gobernanza antes de que entren en vigor las obligaciones de alto riesgo de la Ley de IA de la UE en diciembre de 2027. Otro 39% avanza según lo previsto con planes estructurados de cumplimiento.
Fuente: IBM España News Room - Anuncios
15 de Octubre.jpg)
14 de Octubre
13 de Octubre
12 de Octubre
10 de Octubre
08 de Octubre
.png)
.png)
.png)
.jpg)
.jpg)
.jpg)
QUIÉNES SOMOS
La Asociación
Junta Directiva
Sedes
Noticias
Artículos de Interés
Canal Ético
ACERCA DEL COMPLIANCE
Qué es
Compliance Officer
Marco Normativo Internacional
Cual es tu nivel de Compliance
FORMACIÓN
Eventos
Cursos Acreditados
Agenda Formativa
Cómo acreditar un curso
CERTIFICACIÓN
Certificación Profesional WCA
Certificación Sistemas de Compliance
SOCIOS
Ventajas de Asociarse
Entidades Asociadas
Profesionales Asociados
Solicitud de Adhesión
LEGAL
Aviso Legal
Política de Privacidad
Política de Cookies
Propiedad Intelectual
Condiciones de Contratación
