كيفية منع إجابات الذكاء الاصطناعي الخاطئة؟

لماذا يخترع النماذج

نموذج اللغة يتنبأ بالكلمة التالية المحتملة. لا يملك أي فهم حول ما إذا كانت العبارة صحيحة. إذا ناقص المعرفة، تظهر جملة سلسة مقنعة – هذا ليس عيبًا، بل وظيفة.

خمسة إجراءات فعالة

1. إعطاء الإجابات فقط من مصادر موثقة

يتم إعطاء النموذج الأجزاء ذات الصلة من المستندات مع تعليمات للرد فقط منها. إذا لم يُوجد شيء، تكون الإجابة "لم يتم العثور" – وليس مخترعة.

2. إعطاء موقع الاستشهاد

تُرفق كل إشارة بقسم يشير إليه. هذا يسمح بالفحص في ثوانٍ بدلًا من الدقائق.

3. إعطاء مؤشر الأمان

يُظهر النظام مدى وضوح الأساس. إذا كانت أقل من الحد المحدد، ينتقل إلى الفحص.

4. لا تترك الأرقام للنموذج

المبالغ، المهلات، والحسابات تدخل في الكود البرمجي. يمكن للنموذج قراءة القيم، لكنه لا يحسبها.

5. تسجيل وفحص عشوائي

بدون تسجيل لا يلاحظ أحد أن معدل النتائج تراجع في شهر.

ما لا يساعد

• كتابة "لا تخترع شيئًا" في التعليمات. يساعد قليلاً، لكنه لا يحل محل الارتباط بالمصادر.
• نموذج أكبر. النماذج الأفضل تُخترع نادراً، لكنها تبدو أكثر مقناعة – قد تسوء الظروف حتى.