Cumplimiento regulatorio en la revolución tecnológica: inteligencia artificial y aprendizaje automático (AI/ML)

Actualmente la industria farmacéutica se encuentra en una encrucijada, donde la innovación tecnológica que implica la incorporación de la AI y el ML a sus procesos se une a la tendencia de mantener un enfoque más tradicional para asegurar la seguridad del paciente, la calidad del producto, la integridad de los datos y, en general, el cumplimiento regulatorio.

La Inteligencia Artificial (AI) y su subdisciplina del aprendizaje automático (ML) permiten optimizar los procesos productivos y mejorar la eficiencia operativa mediante la supervisión continua y la detección de posibles desviaciones futuras. Automatizar muchas operaciones que antes realizaban las personas, mediante sistemas informáticos que se alimentan de una gran cantidad de datos, de los que aprenden y sacan conclusiones supone una ventaja competitiva significativa. Aunque estas nuevas tecnologías pueden convertirse en poderosos aliados de la industria farmacéutica, todavía hay una parte considerable del sector que es reticente a su implantación. A parte de la necesidad de disponer de perfiles técnicos especializados en la gestión de los datos que alimentan la AI/ML, esta reticencia también es debida a que obliga al replanteamiento de algunos procesos internos que hasta el momento estaban muy controlados y eran poderosas herramientas para asegurar el cumplimiento de las normativas de aplicación.

Ante este reto tecnológico, este artículo pretende explorar las consideraciones del apéndice D11 – Artificial Intelligence and Machine Learning (AI/ML) de la guía GAMP 5 2nd edition de ISPE en relación al enfoque que tendría la validación y, en general, al cumplimiento normativo. 

Principios

Aunque la AI/ML supongan un avance tecnológico sustancial, las bases a seguir para asegurar el cumplimiento de las normativas farmacéuticas son similares a las que se aplican ante tecnologías más tradicionales.

De esta manera, principios como el enfoque basado en el riesgo, la gestión de la integridad de los datos, la capacitación del personal, la documentación, la validación, el control de cambios o el pensamiento crítico seguirán siendo válidos. Lo que se deberá tener en cuenta es la necesidad de adaptarlos a las características tecnológicas de la AI/ML.

Igual como se haría previamente a la implementación de cualquier otro tipo de proyecto informático en la industria farmacéutica, se deberá realizar un análisis de los riesgos que requerirá una sólida comprensión del proceso basada en datos científicos, se planificará y se aplicarán las buenas prácticas de desarrollo, ingeniería y mantenimiento de software. Sin embargo, en el caso de la AI/ML se deberán tener en cuenta algunas consideraciones especiales, asociadas a las diferentes fases de estos proyectos, que se reflejan en el enfoque a su ciclo de vida

Enfoque al ciclo de vida

La validación de los sistemas AI/ML tiene que ser capaz de afrontar los cambios en los resultados que se obtienen a medida que el sistema va evolucionando. Para ello, se tienen que considerar especialmente las herramientas de gestión de la configuración, control de cambios, control de versiones y monitorización.

Para establecer un enfoque correcto que permita cumplir los requisitos normativos de la industria farmacéutica en los sistemas ML, es necesario comprender previamente las particularidades de sus fases de desarrollo. A continuación, se muestra un modelo para posicionar las acciones y actividades principales de un subsistema de ML dentro de un ciclo de vida general de GAMP.

En la Fase de Concepto se identifica la oportunidad o necesidad de negocio. Se define cuál es el problema que se tiene que resolver y con qué datos iniciales se va a contar para conseguirlo. En esta fase empieza la gestión de los datos, que va a realizarse a lo largo de todo el proyecto, ya que se tienen que seleccionar, incorporar y preparar los datos que alimentarán el modelo. Los prototipos permiten probar los algoritmos y establecer los valores iniciales de los hiperparámetros para decidir cuáles son los más adecuados.

En la Fase de Proyecto se parte de tres conjuntos de datos, que tienen que estar correctamente identificados para no confundirse, ya que no pueden reutilizarse para los diferentes objetivos: pruebas, entrenamiento y validación. 

En la Fase de Operación se monitoriza y evalúa el comportamiento del sistema. Se trata de un proceso continuo, que puede alimentarse con nuevos datos que pasan por la Fase de Proyecto anterior. Esto requiere una gestión de cambios, una gestión de la configuración y un control de versiones del modelo eficaces.

Consideraciones desde el punto de vista de calidad

Dentro de todas las actividades que comprenden este ciclo de vida, adicionalmente, es conveniente tener en cuenta las siguientes consideraciones:

- 1. Se debe identificar correctamente el problema que se desea resolver con AI/ML, establecer los requerimientos, acotar el alcance y definir objetivos específicos y medibles.

- 2. Ya en la Fase de Concepto, se tiene que ser realista con las capacidades de la empresa para abordar un proyecto de ML. Es esencial invertir en la infraestructura tecnológica adecuada y en la capacitación del personal.

El cumplimiento normativo se debe integrar a lo largo de todo el proyecto, empezando en la Fase de Concepto. Para ello, se requiere la colaboración entre los equipos de IT, científicos de datos y garantía de calidad. Las sinergias generadas en un equipo multidisciplinar permitirán que la solución de AI/ML sea tecnológicamente adecuada y que además esté alineada con las normativas farmacéuticas y las necesidades operativas de la empresa.

- 3. En esta misma fase, también se deben considerar factores relacionados con los datos que se van a utilizar, como la fuente, la estructura, el formato y la segmentación. 

La calidad de los datos es fundamental para el éxito de cualquier proyecto de AI/ML. La empresa deberá establecer rigurosos procesos de limpieza y validación de datos, asegurando que los datos utilizados sean precisos, completos y relevantes.

Es importante documentar todo el proceso de preparación de los datos, ya que esta información tendrá que tenerse en cuenta en la construcción de las pruebas que validarán el modelo.

Los datos utilizados en los modelos de ML tienen que cumplir los siguientes principios, conocidos con las siglas FAIR:

• Findable (encontrables)
• Accessible (accesibles)
• Interoperable (interoperables)
• Reusable (reutilizables)

Por otro lado, en los modelos se tomarán en consideración estos cinco principios básicos:

• Transparency - o cómo se comportarán los modelos
• Reproducibility - o cómo se podrá confiar en los resultados
• Interpretability - o qué podrá producir los resultados
• Applicability - o cómo se aplicarán los modelos
• Liability - o quién será el responsable último

- 4. Si la empresa tiene la intención de obtener y/o utilizar datos externos (procedentes de una fuente abierta o de información pública), antes deberá asegurarse de que tiene derecho a usar dichos datos y que cumple con las normativas de protección de datos vigentes en cada país. Se podrá considerar la necesidad de eliminar ciertos atributos de los datos para convertirlos en anónimos.

- 5. Durante la Fase de Proyecto, si se considera adecuado, se pueden desarrollar herramientas adicionales de soporte, que respalden la construcción de modelos o la preparación de datos. Si éstas no pasan a la Fase de Operación, es posible que no estén sujetas a los mismos requerimientos regulatorios. En cualquier caso, se recomienda la realización de un análisis de riesgos previo para confirmar esta suposición.

- 6. Para decidir el algoritmo más adecuado y la forma de entrenarlo y evaluarlo, se tienen que considerar las diferentes opciones disponibles y compararlas con los requisitos operativos, de comportamiento y reglamentarios pertinentes.

- 7. Para evaluar el comportamiento del modelo y ajustar los parámetros, durante el entrenamiento, el conjunto de datos seleccionados para este fin alimenta el modelo y la salida resultante se compara con la realidad de los datos de entrenamiento.

- 8. El conjunto de datos de validación se usa para evaluar que el modelo fue bien entrenado y ayuda a ajustarlo, si se requiere.

- 9. Durante la Fase de Operación, el subsistema AI/ML debe monitorizarse y mantenerse de forma continua. Los cambios se gestionarán de forma diferente según si el sistema es estático o dinámico. 

Para los sistemas estáticos, donde los cambios son conocidos y controlados, tanto en los datos como en el propio algoritmo, es suficiente con gestionarlos de acuerdo con el procedimiento de gestión de cambios de la empresa, realizando un análisis de riesgos para garantizar que el cambio se prueba rigurosamente antes de la implantación.

Para los sistemas dinámicos, donde se realiza aprendizaje online continuo de manera que los parámetros del modelo se actualizan o se utilizan datos no supervisados previamente, se deben definir métricas, KPIs o límites de tolerancia aceptables que permitan garantizar que el algoritmo sigue funcionando según el uso previsto.

Futuro de AI/ML en la industria farmacéutica

Adentrarse en el mundo de la AI/ML actualmente es una opción, pero pronto será una necesidad para mantenerse competitivos.

La implantación de estas nuevas herramientas supone un reto importante para la industria farmacéutica, desde el punto de vista de transformación tecnológica, mientras está obligada a cumplir con los requerimientos normativos ya existentes. Sin embargo, basándose en una estrategia bien definida, con los recursos técnicos y humanos adecuados y aplicando correctamente los principios de GxP, ALCOA+, análisis de riesgos, documentación, control de cambios, control de versiones y validación, se pueden conseguir mejoras sustanciales en la eficiencia y la calidad de los procesos farmacéuticos, mientras se garantiza la seguridad del paciente, la calidad del producto y la integridad de los datos.

Referencias

GAMP 5 second edition, A risk-Based Approach to Compliant GxP Computerized Systems, 2022 ISPE

U. S. Food and Drug Administration (FDA). Proposed Regulatory Framework for Modifications to Artificial Intelligence/Machine Learning (AI/ML) - Based Software as a Medical Device (SaMD) https://www.fda.gov/media/122535/download