ISO/IEC 42001
المعيار الدولي لأنظمة إدارة الذكاء الاصطناعي — مشروح بوضوح، ومنظم منطقيًا، وقابل للاستخدام من قِبل المؤسسات التي ترغب في تطوير الذكاء الاصطناعي أو شرائه أو نشره بمسؤولية.
ما هو غير مُضمَّن: معيار ISO/IEC 42001 نفسه
تحتوي هذه الحزمة على قوالب وأدوات التنفيذ فقط. معيار ISO/IEC 42001 محمي بحقوق الطبع والنشر لصالح ISO/IEC ويجب شراؤه بشكل منفصل بموجب ترخيص من ISO أو هيئة المعايير الوطنية في بلدك (في بلجيكا: NBN). تشير مستنداتنا إلى المعيار عبر رقم البند ورقم ضابط الملحق A فقط — ولا تعيد إنتاج نصه.
ما الذي يفعله هذا المعيار
يحدد ISO/IEC 42001 متطلبات نظام إدارة الذكاء الاصطناعي (AIMS). فهو يساعد المؤسسات على تصميم أنظمة الذكاء الاصطناعي ونشرها وصيانتها بطريقة مسؤولة وشفافة وقابلة للتحكم — على نحو مماثل لما يفعله ISO 27001 لأمن المعلومات.
الهدف واضح:
- إدارة مخاطر أنظمة الذكاء الاصطناعي وأثرها على الأفراد والمجتمع.
- ضمان استخدام مسؤول وشفاف وقابل للتفسير للذكاء الاصطناعي عبر المؤسسة.
- بناء الثقة مع العملاء والجهات التنظيمية وأصحاب المصلحة الداخليين.
- المواءمة مع التشريعات مثل قانون الذكاء الاصطناعي الأوروبي وأنظمة الإدارة القائمة.
مبادئ الذكاء الاصطناعي
أربعة مبادئ أساسية لجعل الذكاء الاصطناعي المسؤول قابلًا للنقاش.
المساءلة
مسؤوليات واضحة لأنظمة الذكاء الاصطناعي، من الحوكمة إلى الأدوار التشغيلية ومسارات التصعيد.
الشفافية
معلومات مفهومة حول عمل أنظمة الذكاء الاصطناعي وقيودها وقراراتها لأصحاب المصلحة المعنيين.
الإنصاف
الحماية من التحيّز غير المقصود والنتائج غير العادلة والآثار التمييزية في تطبيقات الذكاء الاصطناعي.
السلامة والأمن
التحكم في مخاطر الأضرار المادية والرقمية والتنظيمية على مدى دورة الحياة الكاملة.
بنود نظام الإدارة
البنود الرئيسية السبعة لنظام إدارة الذكاء الاصطناعي
يتبع ISO/IEC 42001 الهيكل المنسّق (HLS). تربط هذه البنود السياق والقيادة والتخطيط والتشغيل بمراقبة أنشطة الذكاء الاصطناعي وتحسينها.
سياق المؤسسة
تحديد القضايا الداخلية والخارجية والأطراف المهتمة ونطاق نظام إدارة الذكاء الاصطناعي (AIMS).
القيادة
تُظهر الإدارة العليا التزامها، وتضع سياسة الذكاء الاصطناعي، وتُسند الأدوار والمسؤوليات والصلاحيات.
التخطيط
تحديد المخاطر والفرص، وتقييم أثر الذكاء الاصطناعي، ووضع أهداف قابلة للقياس للاستخدام المسؤول للذكاء الاصطناعي.
الدعم
توفير الموارد والكفاءات والوعي والتواصل والمعلومات الموثّقة المتعلقة بأنشطة الذكاء الاصطناعي.
التشغيل
تخطيط عمليات الذكاء الاصطناعي التشغيلية وتنفيذها والتحكم فيها، بما في ذلك تقييمات الأثر وإدارة دورة الحياة.
تقييم الأداء
مراقبة أداء نظام إدارة الذكاء الاصطناعي وقياسه وتحليله وتقييمه عبر التدقيقات الداخلية ومراجعات الإدارة.
التحسين
إدارة حالات عدم المطابقة ودفع التحسين المستمر لنظام إدارة الذكاء الاصطناعي بشكل منهجي.
ضوابط الملحق A
الضوابط التي تجعل نظام إدارة الذكاء الاصطناعي ملموسًا.
يجمع الملحق A الضوابط في مجالات تتيح معًا الإدارة المسؤولة للذكاء الاصطناعي بشكل قابل للإثبات — من السياسة والحوكمة إلى البيانات ودورة الحياة والاستخدام.
سياسات الذكاء الاصطناعي
- سياسة الذكاء الاصطناعي
- المواءمة مع المؤسسة
- المراجعة الدورية
التنظيم الداخلي
- الأدوار والمسؤوليات
- حوكمة الذكاء الاصطناعي
- الإبلاغ عن المخاوف
موارد الذكاء الاصطناعي
- موارد البيانات
- الأدوات والقدرة الحاسوبية
- الخبرة البشرية
تقييم الأثر
- أثر نظام الذكاء الاصطناعي
- الآثار على الأفراد
- الآثار على المجتمع
دورة حياة نظام الذكاء الاصطناعي
- التصميم والتطوير
- التحقق والمصادقة
- النشر والصيانة
البيانات لأنظمة الذكاء الاصطناعي
- جودة البيانات
- مصدر البيانات
- إعداد البيانات
المعلومات للأطراف المهتمة
- التوثيق للمستخدمين
- التواصل بشأن الحوادث
- الشفافية
استخدام أنظمة الذكاء الاصطناعي
- الاستخدام المسؤول
- الاستخدام المقصود
- إدارة الذكاء الاصطناعي من أطراف ثالثة
الجهات الفاعلة في الذكاء الاصطناعي
يصبح المعيار ملموسًا حسب نوع الجهة الفاعلة في الذكاء الاصطناعي.
لكل دور في سلسلة الذكاء الاصطناعي مسؤولياته الخاصة. يوضح الدليل أين تحتاج إلى توثيق السياسة والضوابط والأدلة — وفقًا لموقعك.
مزوّدو الذكاء الاصطناعي
- تطوير النماذج
- التوثيق وصحائف البيانات
- بيانات المطابقة
مطوّرو الذكاء الاصطناعي
- ممارسات الهندسة
- اختبار التحيّز والمتانة
- إصدارات النماذج
ناشرو الذكاء الاصطناعي
- الضوابط التشغيلية
- المراقبة في بيئة الإنتاج
- تعليمات المستخدم
مستخدمو الذكاء الاصطناعي والأشخاص المعنيون
- الوعي والتدريب
- قنوات التغذية الراجعة
- حماية الحقوق
المبادئ الأساسية
مبادئ تُبقي ISO/IEC 42001 عمليًا في مؤسستك.
نهج قائم على المخاطر
تتناسب التدابير مع مخاطر الذكاء الاصطناعي، مع تقييمات صريحة للأثر والمخاطر.
الإشراف البشري
يبقى البشر متحكمين في قرارات الذكاء الاصطناعي الحرجة ويمكنهم التدخل أو التصحيح عند الحاجة.
إدارة دورة الحياة
إدارة أنظمة الذكاء الاصطناعي من المفهوم والبيانات وحتى النشر والمراقبة والإيقاف.
التحسين المستمر
تُغذّي الدروس المستفادة والتدقيقات والمراقبة تحسينات منهجية للسياسة والضوابط.
مهارة مساعد الذكاء الاصطناعي — نفّذ المجموعة بالذكاء الاصطناعي، وفق الأصول
مهارة قابلة للتثبيت لمساعدي الذكاء الاصطناعي (مثل Claude). تُبقي تنفيذك ضمن الخطة: فهي تتبع تسلسل خطوات المجموعة، وتستخدم القالب الصحيح لكل خطوة، وتُكمل تفاصيل ضبط المستندات، وتُكمل بيان قابلية التطبيق عبر جميع ضوابط الملحق A الـ 38، والأهم — أنها لا تختلق أدلة تدقيق أبدًا. وتشمل فحصًا ذاتيًا يُبرز العناصر النائبة غير المعبّأة، وبيان قابلية التطبيق غير المكتمل، والمراجع المتقاطعة المعطوبة، وتشير إلى ISO/IEC 42001 عبر رقم البند ورقم الضابط فقط (وليس نص المعيار أبدًا).
من القوالب إلى الشهادة
تُوثّق المرحلة 1 نظامك. وتُثبت المرحلة 2 أنه يعمل.
توثّق الحزمة نظام إدارة الذكاء الاصطناعي لديك (جاهزية المرحلة 1). وتتطلب المرحلة 2 من الشهادة أيضًا أدلة على أن النظام يعمل — تقييم مخاطر مكتمل، وتدقيق داخلي، ومراجعة إدارة. يشرح الدليل الرئيسي بدقة ما تتوقعه المرحلتان 1 و2، لتعرف ما يجب فعله بعد تعبئة القوالب.
من الدليل إلى الأدلة
اجعل ISO/IEC 42001 قابلًا للتطبيق مباشرةً بالقوالب.
استخدم الحزمة لتوثيق سياسة الذكاء الاصطناعي والإجراءات وتقييمات المخاطر والأثر ودورة الحياة والتقييمات الذاتية في مستندات يمكن لفريقك استخدامها على الفور. وتتضمن ربطًا بقانون الذكاء الاصطناعي الأوروبي لتربط عمل ISO/IEC 42001 بالتزامات قانون الذكاء الاصطناعي الأوروبي.