كم من التحكم البشري مطلوب في أتمتة الذكاء الاصطناعي؟

مبادئ التحكم البشري في أنظمة الذكاء الاصطناعي

دمج التحكم البشري في أنظمة أتمتة الذكاء الاصطناعي هو جانب مركزي من تطوير الذكاء الاصطناعي المسؤول. يهدف إلى ضمان الشفافية والمساءلة وتقليل المخاطر. في الممارسة العملية يعني هذا أن أنظمة الذكاء الاصطناعي يجب أن تُصمم بحيث تُشَمَل عناصر اتخاذ القرار البشرية في المواقف ذات المخاطر العالية. وهذا يشمل على سبيل المثال التشخيصات الطبية أو منح القروض أو الإجراءات الأمنية المُتَّبَعة تلقائيًا.

العوامل التي تؤثر على ضرورة التحكم البشري

1. الضوابط القانونية

التشريعات مثل قانون شفافية الخوارزميات (ATG) أو تنظيم الاتحاد الأوروبي للذكاء الاصطناعي تحدد في بعض حالات الاستخدام بشكل صريح التزام التحكم البشري. على سبيل المثال، يجب أن تتم مراجعة قرارات معينة من قبل البشر في أنظمة الذكاء الاصطناعي ذات المخاطر العالية (الفئة 2 من تنظيم الاتحاد الأوروبي للذكاء الاصطناعي). لكن متطلبات محددة تعتمد بشكل كبير على التطبيق المستهدف والتصنيف القانوني.

2. ملف المخاطر للتطبيق

ملف المخاطر للتطبيق هو عاملاً حاسماً في مستوى التحكم البشري المطلوب. في الممارسة العملية يتم تحديد ذلك غالبًا من خلال تقييم المخاطر وفقًا لـ ISO/IEC 23894 أو المبادئ التوجيهية الخاصة بالصناعة. على سبيل المثال، يكون التحكم البشري أكثر ضرورة في قطاع الرعاية الصحية مقارنةً بأتمتة عمليات المخازن.

3. التنفيذ الفني

يتم تنفيذ التحكم البشري عبر آليات مختلفة، منها:

• سجلا التدقيق: وثيقة جميع قرارات أنظمة الذكاء الاصطناعي.
• توضيحات اتخاذ القرار: شرح أسباب اتخاذ القرار بشكل مفهوم.
• الموافقة اليدوية: إلزام التأكيد على القرارات من قبل الأشخاص.
• أنظمة الرد: آليات تدخل يدوي في حالة الأخطاء أو الحالات الاستثنائية.

التنفيذ العملي والمقترحات

ينبغي أن تُعرَّف تنفيذ التحكم البشري بوضوح عبر تحديد الأدوار والإجراءات. من الأهمية بمكان أن يُفهم التحكم ليس كطريقة رمزية فقط، بل كجزء فعّال من عملية اتخاذ القرار. كما ينبغي تصميم أنظمة الذكاء الاصطناعي بحيث يمكنها التفاعل مع تدخلات بشرية عند الحاجة دون تأثير كبير على كفاءة الأتمتة. تسجيل وتقييم آليات التحكم باستمرار جزء من ضمان الجودة.

يعتمد التنفيذ المحدد بشكل كبير على التطبيق المستهدف والظروف القانونية والقدرات التقنية. لذا فإن تقييم المخاطر الفردي والتخطيط ضروريان.