ما هي مستويات الخدمة والمسؤوليات التي يحتاجها تشغيل الذكاء الاصطناعي الناجح؟

أولاً قياس، ثم الالتزام

يتم التمييز بين مؤشرات مستوى الخدمة (SLI)، والأهداف (SLO) والاتفاقات (SLA) من قبل فريق مهندسي العمليات في جوجل. SLI هو مقياس مثل عدد الطلبات الناجحة أو وقت البدء في الرد عند المئين 95. SLO هو الهدف الداخلي. SLA هو اتفاق مع المستخدمين أو العملاء ويمكن أن يحدد العواقب عند عدم الامتثال. لا تندرج كل المعايير الداخلية في عقد.

لخدمة الذكاء الاصطناعي، يتم تعريف توفر الخدمة على الأقل، نسبة الأخطاء، وقت الاستجابة عند المئين 95، الحد الأقصى للقدرة والوقت المخصص للدعم. يتطلب جودة المحتوى سلوًا خاصًا بناءً على مجموعة اختبار مُصدَّقة، مثل الحد الأدنى من نسبة الإجابات الصحيحة والمستندة إلى الأدلة والرفض الصحيح. نظرًا لعدم إمكانية ضمان إجابات إبداعية بشكل قطعي، لا يتم صياغة وعود مطلقة بالصواب. بدلًا من ذلك، يتم تحديد حد استخدام، طريقة الفحص، وموافقة إنسانية لاتخاذ قرارات حساسة.

تُترجم النسبة المئوية إلى وقت مفهوم. في شهر مفترض بطول 30 يومًا، تُعادل 99,5 % توفرًا أقصى 3 ساعات و36 دقيقة من انقطاع الخدمة غير المخطط له، 99,9 % حوالي 43 دقيقة و12 ثانية، و99,95 % حوالي 21 دقيقة و36 ثانية. هل تُحسب نافذة الصيانة، كيف تُقاس الأعطال الجزئية، ومن أي نقطة يبدأ توفر الخدمة، يجب تحديدها صراحة.

تُوزع المسؤوليات بالاسم أو بالدور: مالك الخدمة، تشغيل المنصة، مسؤولية النموذج، مسؤولية البيانات، أمن المعلومات، حماية الخصوصية والموافقة الفنية. يمكن أن يوضح جدول RACI المسؤولية، القرار والمشورة. تُنظم دليل التشغيل الإنذار، التصعيد، الاتصال، التراجع والتشغيل من جديد. كما تُحدد SLOs ميزانية الأعطال: عند استهلاكها، تصبح الاستقرار وإصلاح الأخطاء أولوية على المراجعات الخطرة. يمكن أن يكون إجراء مراجعة ربع سنوية إيقاعًا ممكنًا؛ تحدد تكرار المراجعات والجاهزية بناءً على المخاطر التجارية والخدمة المتفق عليها.