Inteligencia artificial y producto sanitario. ISO 42001

Los organismos ISO e IEC han generado la nueva norma ISO/IEC 42001. Es un estándar internacional y específico para la gestión de la inteligencia artificial (AIMS por sus siglas en inglés). Se trata de sistemas que requieren el desarrollo y aplicación de metodologías que establecen, implementan, mantienen y mejoran de forma continua la eficacia de dichos sistemas.

Resulta de aplicación a cualquier organización que provee o utiliza sistemas basados en inteligencia artificial, ya sea en productos como en servicios, con el objetivo de asegurar el desarrollo y uso responsable.

Resultará especialmente necesaria para productos sanitarios que se basan, o utilizan, sistemas de inteligencia artificial.

Inteligencia artificial, la novedad frente a la necesidad de la regulación

Se trata de la primera normativa internacional que describe un sistema de gestión de esta tecnología. Supone que puede, podrá (y previsiblemente requerirá) la certificación de empresas dentro de su ámbito.

Como normativa específica aborda la necesidad de una metodología de consideraciones:

  • éticas,
  • de transparencia,
  • y del aprendizaje continuo.

Aplicando estos principios básicos a la regulación del producto sanitario que conocemos, debemos pensar en la gestión de riesgos como herramienta imprescindible, que deberá implantar el fabricante para equilibrar beneficio clínico, gestión de peligros (y mitigación de los riesgos previsibles) y avance tecnológico.

equilibrar beneficio clínico, gestión de peligros y avance tecnológico

Lo anterior, en esencia, el fabricante de producto sanitario lo debe relacionar con los Requisitos Generales de Seguridad y Funcionamiento (GSPR) que, como sabemos, ya toma en cuenta los principios anteriores.

Producto sanitario y normativa armonizada

Es una noticia realmente buena la edición de esta norma. Aunque podríamos pensar que sí, esta norma no se crea específicamente para el desarrollo, y uso, de la inteligencia artificial. Esta norma todavía no ha sido armonizada por las autoridades para su aplicación en nuestro sector; lo cuál no significa que los fabricantes de producto sanitario no deban considerarla. Es más, es aconsejable hacerlo cuanto antes, porque muy posiblemente será exigida (y exigible) más pronto que tarde (siempre referido al momento en que he publicado este post).

Esta norma sienta las bases en relación con la propuesta específica para la estandarización armonizada de los sistemas de inteligencia artificial publicado el pasado 21/04/2021.

CTN 71/SC 42

Se trata del comité encargado de la elaboración de la norma. Es un equipo de trabajo encargado de abordar lo relacionado con la inteligencia artificial y el big data.

Se trata de un equipo técnico que participa en los comités internacional (ISO/IEC JTC 1/SC 42 Artificial intelligence) y europeo (CEN/CENELEC/JTC 21 Artificial Intelligence). Ellos velarán por la estandarización y publicación de normas técnicas destinadas a la seguridad y eficacia de la inteligencia artificial, en definitiva, la gobernanza de la inteligencia artificial.

ISO 42001, contenido y estructura

La nueva ISO/IEC 42001:2023 especifica los procesos requeridos para garantizar un enfoque subjetivo y metodológico. Establece los siguientes procesos:

  • Liderazgo: compromiso y responsabilidad.
  • Planificación: gestión de riesgos y planificación de cambios.
  • Soporte: recursos, competencia, sensibilización, comunicación e información.
  • Operación: planificación, gestión de riesgos y evaluación del impacto.
  • Evaluación del funcionamiento: monitorización, medida y análisis.
  • Mejora: mejora continua y gestión de la no-conformidad.

CONCLUSIONES

Se ha publicado esta nueva normativa. Es la respuesta, o consecuencia, a la necesidad de una normativa de alto nivel para la inteligencia artificial. Va a ser el marco normativo de cualquier aplicación que basada, o que use, la inteligencia artificial. En nuestro caso, la regulación del producto sanitario, MDR o IVDR.

No se trata de la primera normativa en este ámbito, pero sí la primera certificable, dado que se trata de un sistema de gestión. Necesariamente es el marco de estandarización sobre el cuál la regulación crece desde el día de hoy. La vaga regulación creada hasta el día de hoy (en mi opinión) se apoya de forma especialmente sensible en esta nueva regulación.