حوكمة الذكاء الاصطناعي: دليل عملي للبدء داخل مؤسستك

نشر: Horus Consultancy · Read in English

تحدد حوكمة الذكاء الاصطناعي من يوافق على استخدامه، وما الضوابط اللازمة، وكيف تتحقق المؤسسة من الالتزام بها. البداية هي معرفة الأدوات المستخدمة فعلياً وربط كل استخدام بمسؤول وآلية لاتخاذ القرار.

لا تكفي سياسة عامة للإجابة عن موظف يريد رفع بيانات العملاء إلى مساعد ذكي. يحتاج الموظف إلى معرفة المسموح، والحالات التي تستلزم موافقة، والجهة المسؤولة عن الاستثناءات. الخطوات التالية مقترح عملي وليست قائمة كاملة بمتطلبات أي معيار.

احصر الاستخدامات الفعلية

أنشئ سجلاً يشمل الأدوات المشتراة والمزايا الذكية داخل البرامج والأدوات غير الرسمية. سجّل الغرض ومالك العملية والمستخدمين والمورّد والبيانات والقرارات المتأثرة بالمخرجات. فإعداد جدول اجتماع يختلف عن تقييم طلبات التوظيف من حيث عواقب الخطأ والأطراف المتأثرة وإمكانية الاعتراض.

حدد مسؤوليات القرار

عيّن مسؤولاً من جهة الأعمال لكل استخدام. وحدد مشاركة الأمن والخصوصية والشؤون القانونية والمشتريات. من يعتمد التجربة والتشغيل الفعلي؟ ومن يقبل المخاطر المتبقية أو يوقف النظام؟ اللجنة تنسق العمل، لكنها لا تلغي المسؤولية الفردية.

حوّل المبادئ إلى ضوابط عملية

• حدد المعلومات المسموح بإدخالها والاستخدامات التي تحتاج مراجعة.
• وضح متى يلزم الإشراف البشري وما الذي يتحقق منه المراجع.
• وثّق قيود المورّد والصلاحيات وشروط الاستخدام.
• وفر قناة للإبلاغ عن الأخطاء والمخرجات الضارة.

اجعل التعليمات متاحة أثناء العمل. دليل مختصر مرتبط بطلب موافقة وجهة اتصال قد يكون أسهل تطبيقاً من سياسة طويلة لا يعرف الموظفون مكانها.

تابع الأدلة والتغييرات

احتفظ بالموافقات والتقييمات ونتائج الاختبارات وقرارات الاستثناء. أعد التقييم عند تغير النموذج أو الغرض أو البيانات أو المورّد، أو وقوع حادث مهم. ناقش الاستخدامات غير المسندة لمسؤول والإجراءات المتأخرة في مراجعات الإدارة.

ما علاقة ذلك بمعيار ISO/IEC 42001؟

يحدد ISO/IEC 42001:2023 متطلبات نظام إدارة الذكاء الاصطناعي. ويمكن أن ينظم عمل الجهات التي تطور الذكاء الاصطناعي أو تقدمه أو تستخدمه. الحصر وتوزيع المسؤوليات يدعمان هذا العمل، لكنهما لا يثبتان المطابقة بمفردهما.

هل تحتاج المؤسسة الصغيرة إلى لجنة جديدة؟

ليس بالضرورة. الأهم وضوح الصلاحيات وتوفر الخبرة وتوثيق القرارات. قد تكفي اجتماعات الإدارة القائمة مع مسؤولين محددين ومسار واضح للتصعيد.

هل تحتاج إلى تدريب؟

ابدأ بدورة ISO/IEC 42001 Foundation لفهم المفاهيم، أو استكشف ISO/IEC 42001 Lead Implementer لإنشاء نظام الإدارة وتطويره لدى Horus Academy.

راجع صفحة الدورة لمعرفة خيارات التقديم ولغة التدريب والمتطلبات الحالية. إتمام التدريب لا يمنح المؤسسة شهادة مطابقة ولا يخول المتدرب تلقائياً إجراء تدقيق لمنح الشهادات.

ناقش أولويات مؤسستك

تقدم Horus Consultancy خدمات الحوكمة والمخاطر والامتثال والتدقيق الداخلي من مقرها في كندا لخدمة مؤسسات أمريكا الشمالية والخليج. تعرّف على خدماتنا أو احجز مكالمة مع إسلام الزيات.