Revisado por Alex Collado, consultor principal de BCNSoluciona (CISA, ISO 27001, CCSP y ENS), el 19 de marzo de 2026.
ISO/IEC 22989 explicada: conceptos, terminología y roles de la IA para empresas
En el complejo ecosistema empresarial español, el gobierno de la inteligencia artificial ha pasado de ser una opción técnica a una obligación legal y estratégica. Con la supervisión de la AESIA y las exigencias del nuevo Reglamento Europeo (AI Act), la Gobernanza de IA se posiciona como el marco indispensable para garantizar que la innovación no comprometa la seguridad ni la ética de la organización.
En BCNSoluciona, como consultora independiente, ayudamos a las empresas a traducir la complejidad de la norma ISO/IEC 22989:2022 en procesos de negocio seguros y auditables y aplicar la Gobernanza de IA.
La ISO/IEC 22989 es la norma que fija el vocabulario común de la inteligencia artificial: qué es un sistema de IA, qué significa que sea confiable, explicable o robusto y qué papel tiene cada actor (proveedor, productor, usuario). Aquí te explicamos esos conceptos y cómo encajan con el AI Act. Si lo que buscas es implantar un modelo de gobierno en tu empresa, consulta nuestro servicio de gobernanza de la IA para empresas.
1. Conceptos clave de la ISO/IEC 22989
La gobernanza no es solo cumplir reglas; es establecer un sistema de gestión que abarque todo el ciclo de vida de la IA. Esto incluye desde la fase de diseño hasta el retiro del sistema.
-
Sistema de IA (AI System): Un sistema de ingeniería que genera resultados como predicciones o decisiones para objetivos definidos por humanos.
-
Confiabilidad (Trustworthiness): El cumplimiento verificable de las expectativas, esencial para operar bajo el paraguas de la AEPD.
-
Responsabilidad (Accountability): El estado de ser responsable por los resultados del sistema, un punto crítico para los administradores de empresas en España.
2. Pilares del Gobierno de Algoritmos, Gobernanza de IA.
Para un despliegue seguro de agentes de IA, es necesario monitorizar conceptos técnicos que pueden degradar la calidad del servicio:
-
Deriva de datos (Data drift): Cambios estadísticos en los datos que afectan la precisión del modelo en producción.
-
Explicabilidad: La capacidad de expresar los factores que influyen en una decisión de forma comprensible para un humano.
-
Robustez: Mantener el rendimiento del sistema bajo cualquier circunstancia, incluyendo intentos de manipulación externa.
3. Integración con el Esquema Nacional de Seguridad (ENS)
En España, la gobernanza de la IA no puede ser un silo independiente. Debe integrarse con sistemas de gestión empresarial como el ERP y cumplir con protocolos de validación de sistemas computarizados (CSV). Esto asegura que la IA sea tan fiable como cualquier otro proceso crítico de la compañía.
Sección Safe AI & Cyber: Auditoría y Hacking de IA
En BCNSoluciona, nuestra herencia en ciberseguridad ofensiva nos permite ofrecer un gobierno de IA real. No solo documentamos procesos; realizamos:
-
Hacking de IA: Atacamos la lógica del modelo para verificar su robustez ante entradas malintencionadas.
-
Control de Calidad (QRM): Aplicamos procesos sistemáticos para identificar y controlar riesgos de calidad en la IA.
-
Validación Operativa (OQ/PQ): Verificamos que el sistema funcione según sus especificaciones en condiciones reales de uso en el mercado español.
Gobernanza de IA bajo la norma ISO/IEC 22989 y el AI Act , hacking IA
FAQ de Autoridad sobre Gobernanza
¿Es lo mismo gobernanza que gobierno de la IA? En la práctica, sí: las dos expresiones traducen AI governance y se usan como sinónimos para el marco de políticas, responsables y controles con el que una empresa decide qué IA usa y cómo la supervisa. La ISO/IEC 22989 aporta los conceptos y la ISO/IEC 42001, el sistema de gestión para aplicarlos.
¿Cómo ayuda la norma ISO/IEC 22989 al cumplimiento del AI Act? Esta norma proporciona las definiciones y conceptos técnicos (como transparencia y sesgo) que el Reglamento Europeo exige documentar para los sistemas de alto riesgo.
¿Qué papel juega el «Humano en el bucle» en la gobernanza? El Humano en el bucle garantiza la controlabilidad, permitiendo que un supervisor humano intervenga en las decisiones de la IA, reduciendo riesgos legales y operativos.
¿Cómo comprobamos si tu IA toma decisiones discriminatorias o con sesgo?
La clave reside en la verificación de calidad de datos y el análisis de la verdad fundamental (ground truth). En nuestras auditorías, identificamos cualquier sesgo (bias) o diferencia sistemática en el tratamiento para asegurar que el modelo sea confiable (trustworthy) y cumpla con los estándares éticos exigidos por la AEPD en España.
¿Quién es el responsable legal si un Agente de IA comete un error grave?
Según los roles definidos en la gobernanza, la responsabilidad puede recaer en el Proveedor de IA , el Productor o incluso el Cliente de IA que la pone a disposición de sus usuarios. Es fundamental determinar quién es la parte responsable (accountable) mediante una auditoría de roles para evitar vacíos legales ante incidentes operativos.
¿Quién es Responsable de Qué? Matriz de Roles en el Mercado Español
En BCNSoluciona desglosamos la complejidad de la norma ISO/IEC 22989 y la alineamos con el Reglamento Europeo (AI Act) que supervisa la AESIA. Si tu empresa opera en España, debes saber dónde termina tu responsabilidad y empieza la de tu proveedor.
1. El Proveedor de IA (AI Provider)
-
Definición ISO: Entidad que desarrolla un sistema de IA y lo pone en el mercado.
-
Rol AI Act: El máximo responsable de los sistemas de alto riesgo.
-
Responsabilidades Críticas:
-
Realizar la Evaluación de Conformidad y marcado CE.
-
Crear la documentación técnica y el Sistema de Gestión de Calidad (SGC).
-
Garantizar la Robustez y Ciberseguridad desde el diseño.
-
2. El Productor de IA (AI Producer)
-
Definición ISO: Entidad que fabrica o ensambla componentes de IA. (A menudo coincide con el Proveedor).
-
Enfoque de Gobernanza: Debe certificar la calidad de los conjuntos de datos y la trazabilidad de los componentes.
-
Punto de Riesgo: Vulnerable al sesgo (bias) en la fase de entrenamiento si no hay auditoría externa.
3. El Usuario/Implantador de IA (Deployer/AI User)
-
Definición ISO: Entidad que utiliza el sistema de IA en su actividad profesional. (Este suele ser el rol de tu empresa).
-
Rol AI Act: El implantador tiene obligaciones claras, no está exento de riesgo.
-
Responsabilidades Críticas:
-
Uso del sistema según las instrucciones del proveedor.
-
Garantizar la supervisión humana (Human-in-the-loop).
-
Garantizar la calidad de los datos de entrada (input) si tiene control sobre ellos.
-
Notificar incidentes operativos graves al proveedor y a la AESIA.
-
Nota de BCNSoluciona: En nuestras auditorías de gobernanza, el primer paso es determinar el rol exacto de tu empresa para limitar tu responsabilidad legal mediante contratos claros y validaciones técnicas independientes.



