Glossaire de la gouvernance de l'IA et d'ISO/IEC 42001

Définitions

Les termes clés, expliqués

Le vocabulaire de la gouvernance de l'IA, défini clairement :

Système de management de l'IA (AIMS)

Un système de management de l'IA (AIMS) est l'ensemble des politiques, rôles, processus et mesures qu'une organisation utilise pour développer, déployer et utiliser l'IA de manière responsable. ISO/IEC 42001 est la norme internationale qui définit ce que doit contenir un AIMS. Learn more

ISO/IEC 42001

ISO/IEC 42001:2023 est la première norme internationale au monde pour un système de management de l'IA. Elle donne aux organisations un cadre certifiable pour gérer le risque, l'impact, les données, la transparence et la supervision humaine de l'IA. Learn more

Gouvernance de l'IA

La gouvernance de l'IA est la pratique consistant à diriger et contrôler la façon dont une organisation développe et utilise l'IA — attribution des responsabilités, gestion du risque et de l'impact, et garantie que l'IA est utilisée de manière licite, sûre et transparente. Learn more

IA à haut risque

L'IA à haut risque désigne les usages de l'IA susceptibles d'affecter significativement les droits, la sécurité ou l'accès aux services des personnes — comme le recrutement, le scoring de crédit ou les dispositifs médicaux. L'EU AI Act désigne des catégories spécifiques à haut risque assorties d'obligations contraignantes. Learn more

EU AI Act

L'EU AI Act est la loi complète de l'Union européenne sur l'IA, adoptant une approche fondée sur le risque, des pratiques interdites aux obligations à haut risque. Les obligations à haut risque s'appliquent à partir de décembre 2027, après le Digital Omnibus de 2026. Learn more

Évaluation d'impact de l'IA

Une évaluation d'impact de l'IA évalue la façon dont un système d'IA pourrait affecter les individus, les groupes et la société — y compris les effets indirects ou disproportionnés. Elle demande qui pourrait être lésé, et comment, avant le déploiement. Learn more

Appréciation du risque IA

Une appréciation du risque IA identifie et note ce qui pourrait mal tourner avec un système d'IA — à travers le risque de gouvernance, juridique, de vie privée, de données, technique, opérationnel et sociétal — au regard de critères définis. Learn more

Statement of Applicability (SoA)

Le Statement of Applicability est le document central d'ISO/IEC 42001 listant chaque mesure de l'Annex A, son applicabilité, la justification, le responsable et les preuves. C'est le document le plus examiné lors d'un audit. Learn more

Mesures de l'Annex A

L'Annex A d'ISO/IEC 42001 est un ensemble de référence d'environ 38 mesures réparties sur neuf domaines — politique, organisation, ressources, impact, cycle de vie, données, information, utilisation et tierces parties — que les organisations sélectionnent et mettent en œuvre. Learn more

Supervision humaine

La supervision humaine consiste à maintenir une personne réellement en mesure d'examiner, d'intervenir dans ou d'annuler les décisions d'un système d'IA — surtout lorsque ces décisions affectent les droits, la sécurité ou les finances des personnes. Learn more

Cycle de vie du système d'IA

Le cycle de vie du système d'IA est la durée complète de la vie d'un système d'IA — concept, données, conception, développement, validation, déploiement, surveillance, changement et mise hors service — chaque étape ayant ses propres mesures de gouvernance. Learn more

Provenance des données

La provenance des données est l'origine et l'historique documentés des données utilisées pour entraîner ou exploiter un système d'IA — ses sources, transformations et filiation — nécessaires pour démontrer la qualité et l'usage licite. Learn more

Biais et équité

L'évaluation des biais et de l'équité examine si les données ou les sorties d'un système d'IA avantagent ou désavantagent systématiquement des groupes identifiables, et documente les métriques, les constats et les mesures d'atténuation. Learn more

Model card

Une model card est un document structuré décrivant un modèle d'IA — sa finalité, ses données, ses performances, ses limites et son usage prévu — afin que les utilisateurs et les auditeurs puissent le comprendre et le gouverner. Learn more

Incident IA

Un incident IA est un événement où un système d'IA cause ou risque de causer un préjudice, une erreur ou un manquement à la conformité. ISO/IEC 42001 exige un processus de réponse avec classification de la gravité et préservation des preuves. Learn more

Risque IA lié aux tierces parties

Le risque IA lié aux tierces parties est l'obligation de gouvernance qui subsiste lorsque vous utilisez une IA que vous n'avez pas construite — modèles de fondation, API ou jeux de données. La responsabilité des résultats reste à la charge de l'organisation qui déploie. Learn more

Fournisseur / développeur / déployeur d'IA

Ce sont les rôles qu'ISO/IEC 42001 et l'EU AI Act reconnaissent : les fournisseurs construisent et fournissent l'IA, les développeurs la conçoivent, et les déployeurs la mettent en usage. Chaque rôle porte des obligations différentes. Learn more

GPAI (IA à usage général)

L'IA à usage général (GPAI) désigne les modèles largement capables — comme les grands modèles de langage — qui peuvent être adaptés à de nombreuses tâches. Au titre de l'EU AI Act, les modèles GPAI portent leurs propres obligations de transparence et de documentation. Learn more

Audit interne (ISO/IEC 42001)

Un audit interne est une vérification indépendante que le système de management de l'IA est conforme à ISO/IEC 42001 et fonctionne réellement. Ses constats déclenchent des actions correctives et alimentent la revue de direction. Learn more

Revue de direction

La revue de direction est l'événement de la direction générale où le leadership examine la performance de l'AIMS, les risques, les résultats d'audit et les améliorations — le moment où la responsabilité de la gouvernance de l'IA s'exerce. Learn more

Amélioration continue

L'amélioration continue est le processus permanent visant à rendre le système de management de l'IA meilleur au fil du temps, guidé par les audits, les incidents, la surveillance et les enseignements tirés. Learn more

NIST AI RMF

Le NIST AI Risk Management Framework est un cadre américain volontaire (Govern, Map, Measure, Manage) pour une IA de confiance. Il complète ISO/IEC 42001, qui ajoute un système de management certifiable. Learn more