Glosario de gobernanza de IA e ISO/IEC 42001

Definiciones

Términos clave, explicados

El vocabulario de la gobernanza de la IA, definido con claridad:

Sistema de Gestión de IA (AIMS)

Un Sistema de Gestión de IA (AIMS) es el conjunto de políticas, roles, procesos y controles que una organización usa para desarrollar, desplegar y usar la IA de forma responsable. ISO/IEC 42001 es la norma internacional que define qué debe contener un AIMS. Learn more

ISO/IEC 42001

ISO/IEC 42001:2023 es la primera norma internacional del mundo para un Sistema de Gestión de IA. Ofrece a las organizaciones un marco certificable para gestionar el riesgo, el impacto, los datos, la transparencia y la supervisión humana de la IA. Learn more

Gobernanza de la IA

La gobernanza de la IA es la práctica de dirigir y controlar cómo una organización desarrolla y usa la IA: asignando responsabilidades, gestionando el riesgo y el impacto, y garantizando que la IA se use de forma lícita, segura y transparente. Learn more

IA de alto riesgo

La IA de alto riesgo se refiere a usos de la IA que pueden afectar significativamente a los derechos, la seguridad o el acceso a servicios de las personas, como la contratación, el scoring crediticio o los productos sanitarios. El EU AI Act designa categorías específicas de alto riesgo con obligaciones vinculantes. Learn more

EU AI Act

El EU AI Act es la ley integral de IA de la Unión Europea, que adopta un enfoque basado en el riesgo, desde las prácticas prohibidas hasta las obligaciones de alto riesgo. Los deberes de alto riesgo aplican desde diciembre de 2027 tras el Digital Omnibus de 2026. Learn more

Evaluación de impacto de la IA

Una evaluación de impacto de la IA valora cómo un sistema de IA podría afectar a individuos, grupos y la sociedad, incluidos los efectos indirectos o desproporcionados. Se pregunta quién podría verse perjudicado, y cómo, antes del despliegue. Learn more

Evaluación de riesgo de la IA

Una evaluación de riesgo de la IA identifica y puntúa qué podría salir mal en un sistema de IA —en cuanto a gobernanza, aspectos legales, privacidad, datos, riesgo técnico, operativo y social— frente a criterios definidos. Learn more

Declaración de Aplicabilidad (SoA)

La Declaración de Aplicabilidad es el documento central de ISO/IEC 42001 que enumera cada control del Annex A, si aplica, la justificación, el responsable y la evidencia. Es el documento más examinado en una auditoría. Learn more

Controles del Annex A

El Annex A de ISO/IEC 42001 es un conjunto de referencia de unos 38 controles en nueve áreas —política, organización, recursos, impacto, ciclo de vida, datos, información, uso y terceros— que las organizaciones seleccionan e implementan. Learn more

Supervisión humana

La supervisión humana significa mantener a una persona con capacidad efectiva de revisar, intervenir o anular las decisiones de un sistema de IA, especialmente cuando esas decisiones afectan a los derechos, la seguridad o las finanzas de las personas. Learn more

Ciclo de vida del sistema de IA

El ciclo de vida del sistema de IA es el recorrido completo de la vida de un sistema de IA —concepto, datos, diseño, desarrollo, validación, despliegue, seguimiento, cambio y retirada—, cada etapa con sus propios controles de gobernanza. Learn more

Procedencia de los datos

La procedencia de los datos es el origen e historial documentados de los datos usados para entrenar o ejecutar un sistema de IA —sus fuentes, transformaciones y trazabilidad—, necesarios para demostrar la calidad y el uso lícito. Learn more

Sesgo y equidad

La evaluación de sesgo y equidad valora si los datos o las salidas de un sistema de IA favorecen o perjudican sistemáticamente a grupos identificables, y documenta las métricas, los hallazgos y las mitigaciones. Learn more

Ficha de modelo (model card)

Una ficha de modelo es un documento estructurado que describe un modelo de IA —su propósito, datos, rendimiento, limitaciones y uso previsto— para que usuarios y auditores puedan entenderlo y gobernarlo. Learn more

Incidente de IA

Un incidente de IA es un evento en el que un sistema de IA causa o arriesga daño, error o un incumplimiento normativo. ISO/IEC 42001 exige un proceso de respuesta con clasificación de severidad y preservación de la evidencia. Learn more

Riesgo de IA de terceros

El riesgo de IA de terceros es la obligación de gobernanza que persiste cuando usas IA que no has construido: modelos de base, APIs o conjuntos de datos. La responsabilidad por los resultados sigue siendo de la organización que la despliega. Learn more

Proveedor / desarrollador / desplegador de IA

Son los roles que reconocen ISO/IEC 42001 y el EU AI Act: los proveedores construyen y suministran IA, los desarrolladores la diseñan y los desplegadores la ponen en uso. Cada rol conlleva obligaciones diferentes. Learn more

GPAI (IA de propósito general)

La IA de propósito general (GPAI) se refiere a modelos con amplias capacidades —como los grandes modelos de lenguaje— que pueden adaptarse a muchas tareas. Bajo el EU AI Act, los modelos GPAI conllevan sus propios deberes de transparencia y documentación. Learn more

Auditoría interna (ISO/IEC 42001)

Una auditoría interna es una comprobación independiente de que el sistema de gestión de IA se ajusta a ISO/IEC 42001 y realmente opera. Sus hallazgos impulsan acciones correctivas y alimentan la revisión por la dirección. Learn more

Revisión por la dirección

La revisión por la dirección es el evento de la alta dirección donde el liderazgo revisa el desempeño del AIMS, los riesgos, los resultados de auditoría y las mejoras: el momento en que se ejerce la responsabilidad por la gobernanza de la IA. Learn more

Mejora continua

La mejora continua es el proceso permanente de mejorar el sistema de gestión de IA con el tiempo, impulsado por auditorías, incidentes, seguimiento y lecciones aprendidas. Learn more

NIST AI RMF

El NIST AI Risk Management Framework es un marco estadounidense voluntario (Govern, Map, Measure, Manage) para una IA fiable. Complementa a ISO/IEC 42001, que añade un sistema de gestión certificable. Learn more