معرفة متخصصة للقرارات الرقمية
ما هي agents و أين يجب الحذر؟
إجابة موجزة
الاختلاف
الاستخدام العادي: تتساءل، ويجيب النموذج. خطأ هو جملة خاطئة.
الوكيل: يقرر النموذج بنفسه أي أدوات يستخدمها، ويستدعيها، ويحلل النتيجة ويستمر. خطأ هو عملية خاطئة.
أين يكون منطقيًا
- جمع المعلومات من عدة أنظمة
- بحث متعدد المراحل في الوثائق الخاصة
- العمليات الروتينية ذات الحدود الواضحة
- إعداد الإجراءات التي تطلقها شخصية ما
أين يجب الحذر
في كل مكان حيث يكون الوكيل نشطًا بشكل مكتبي: إرسال بريد إلكتروني، تعديل مجموعات البيانات، إصدار طلبات، تشغيل مدفوعات.
القواعد التي يجب أن تنطبق
القراءة مجانية، الكتابة محدودة. لا توجد مخاطر في الوصول القرائي. كل عملية تعديل تتطلب حدودًا ضيقة.
الموافقة عند التأثير الخارجي. كل شيء يخرج من الشركة أو يحرك المال يُقترح، لا يتم تنفيذه.
حقوق خاصة للوكيل. لا تشغل حسابًا إداريًا. يجب أن يملك الوكيل عددًا أقل من الصلاحيات من الشخص الذي يعمل له.
تسجيل كامل. كل استدعاء لأداة مع توقيت ونتائج.
الحد. عدد أقصى للخطوات، حتى لا يعلق الوكيل في حلقة ويخلق تكاليف.
التقييم الصادق
الوكلاء واعدة ومهمة. بالنسبة للمهام ذات التأثير المالي أو القانوني، فإن الموثوقية اليوم لا تكفي لاستخدامها دون خطوة مراجعة.
حقائق أساسية
- الاختلاف
- الوكيل يعمل، لا يرد فقط
- القاعدة الأساسية
- القراءة مجانية، الكتابة محدودة
- الواجب
- حقوق محدودة خاصة وتسجيل كامل
المصادر
جميع المعلومات الخارجية موثقة بمصادر قابلة للتتبع.-
01
Artificial Intelligence Risk Management Framework: Generative AI Profile National Institute of Standards and Technology (NIST)
-
02
Artificial Intelligence Risk Management Framework (AI RMF 1.0) National Institute of Standards and Technology (NIST)
- 03