术语表
AI 治理与 ISO/IEC 42001 术语表
以通俗语言解释 ISO/IEC 42001、EU AI Act 与负责任 AI 背后的术语——面向正在构建 AI 管理体系的团队。每个词条都链接到该概念的实际运用之处。
定义
关键术语解析
清晰界定 AI 治理的词汇：
AI 管理体系（AIMS）
- AI 管理体系（AIMS）是组织用于负责任地开发、部署和使用 AI 的一整套政策、职责、流程与控制措施。ISO/IEC 42001 是定义 AIMS 必须包含哪些内容的国际标准。 Learn more
ISO/IEC 42001
- ISO/IEC 42001:2023 是全球首部针对 AI 管理体系的国际标准。它为组织提供一套可认证的框架，用于管理 AI 风险、影响、数据、透明度与人工监督。 Learn more
AI 治理
- AI 治理是指导和控制组织如何开发和使用 AI 的实践——分配问责、管理风险与影响，并确保 AI 得到合法、安全、透明的使用。 Learn more
高风险 AI
- 高风险 AI 指可能显著影响人们权利、安全或获取服务的 AI 用途——例如招聘、信用评分或医疗器械。EU AI Act 指定了具有约束力义务的特定高风险类别。 Learn more
EU AI Act
- EU AI Act 是欧盟全面的 AI 法律，采取基于风险的方法，从禁止性做法到高风险义务。高风险义务在 2026 年 Digital Omnibus 之后自 2027 年12月起适用。 Learn more
AI 影响评估
- AI 影响评估用于评估某一 AI 系统可能如何影响个人、群体与社会——包括间接或不成比例的影响。它在部署前追问：谁可能受到伤害，以及如何受害。 Learn more
AI 风险评估
- AI 风险评估识别并对 AI 系统可能出现的问题进行评分——涵盖治理、法律、隐私、数据、技术、运营与社会风险——对照既定标准进行。 Learn more
适用性声明（SoA）
- 适用性声明是 ISO/IEC 42001 的核心文档，列出每一项 Annex A 控制措施是否适用、理由、责任人与证据。它是审核中最受审视的文档。 Learn more
Annex A 控制措施
- ISO/IEC 42001 的 Annex A 是一套参考控制措施，约 38 项，分布于九大领域——政策、组织、资源、影响、生命周期、数据、信息、使用与第三方——供组织选择并实施。 Learn more
人工监督
- 人工监督意味着让人始终能够切实地审查、干预或推翻 AI 系统的决策——尤其是当这些决策影响人们的权利、安全或财务时。 Learn more
AI 系统生命周期
- AI 系统生命周期是 AI 系统全生命历程——概念、数据、设计、开发、验证、部署、监测、变更与退役——每一阶段都有各自的治理控制措施。 Learn more
数据溯源
- 数据溯源是用于训练或运行 AI 系统的数据的成文来源与历史——其来源、转换与谱系——用于证明其质量与合法使用。 Learn more
偏见与公平性
- 偏见与公平性评估用于判断 AI 系统的数据或输出是否系统性地偏袒或不利于可识别群体，并记录相关指标、发现与缓解措施。 Learn more
模型卡（Model card）
- 模型卡是描述某一 AI 模型的结构化文档——其用途、数据、性能、局限与预期用途——以便用户和审核员能够理解并治理它。 Learn more
AI 事件
- AI 事件是指 AI 系统造成或可能造成伤害、错误或合规违规的事件。ISO/IEC 42001 要求建立按严重性分级、并保存证据的响应流程。 Learn more
第三方 AI 风险
- 第三方 AI 风险是指当您使用并非自建的 AI（基础模型、API 或数据集）时仍然存在的治理义务。对结果的问责仍归于部署方组织。 Learn more
AI 提供者／开发者／部署者
- 这些是 ISO/IEC 42001 与 EU AI Act 所认可的角色：提供者构建并供应 AI，开发者进行工程实现，部署者将其投入使用。每种角色承担不同的义务。 Learn more
通用人工智能（GPAI）
- 通用人工智能（GPAI）指能力广泛的模型——如大型语言模型——可适配于多种任务。在 EU AI Act 下，GPAI 模型承担各自的透明度与文档义务。 Learn more
内部审核（ISO/IEC 42001）
- 内部审核是对 AI 管理体系是否符合 ISO/IEC 42001 并切实运行进行的独立检查。其发现驱动纠正措施并输入管理评审。 Learn more
管理评审
- 管理评审是最高管理层审视 AIMS 绩效、风险、审核结果与改进的活动——是行使 AI 治理问责的时刻。 Learn more
持续改进
- 持续改进是随着时间推移不断完善 AI 管理体系的持续过程，由审核、事件、监测与经验教训所驱动。 Learn more
NIST AI RMF
- NIST AI Risk Management Framework 是一套面向可信 AI 的自愿性美国框架（Govern、Map、Measure、Manage）。它与 ISO/IEC 42001 互补，后者增加了可认证的管理体系。 Learn more