منع النموذج من اختلاق مرجع

لماذا تختلق النماذج المراجع

نموذج اللغة يتنبأ بنص معقول. ومرجع مثل المادة 324 مكرر 1 له شكل إحصائي قوي: من السهل إنتاج رقم مادة يبدو صحيحاً، ولا شيء في عملية التوليد يميز الموجود من غير الموجود.

وهذا ليس عيباً يُعالَج بالتوجيه. فمطالبة النموذج بأن «يستشهد بمصادر حقيقية فقط» تخفض النسبة ولا تغيّر الآلية. والعلاج يجب أن يكون بنيوياً.

أربع طبقات تعمل

1. الاسترجاع أولاً

احتفظوا بالنصوص المصدرية في مدونة تتحكمون بها. استرجعوا المقاطع ذات الصلة، وضعوها في السياق، واطلبوا من النموذج الإجابة مما أُعطي له فقط. فتصير مهمته تلخيص نص مقدَّم بدل استحضار وقائع.

2. اجعلوا كل ادعاء يشير إلى مقطع

اشترطوا مخرجاً منظماً يحمل فيه كل بيان معرّف المقطع الذي يسنده. فالادعاء بلا مصدر مرفق يصير خللاً يمكن كشفه آلياً، بدل خطأ على القارئ أن يلتقطه.

3. تحققوا من المعرّف قبل عرضه

هذه الخطوة رخيصة وكثيراً ما تُتجاهل. قبل عرض أي مرجع، راجعوا المعرّف في فهرس المدونة. وإن لم يُطابق، فلا تعرضوه. وهذا يلتقط تحديداً العطل الأهم: مرجع منسّق تنسيقاً مثالياً ولا يشير إلى شيء.

4. اسمحوا للنظام بالرفض

إذا لم يُرجِع الاسترجاع شيئاً ذا صلة، فالمخرج الصحيح هو «لم أجد أساساً لهذا»، لا فقرة سلسة. والرفض يجب أن يكون مساراً صريحاً مصمَّماً. والنظام الذي لا يستطيع الرفض سيخمّن دائماً.

ما تكلفة ذلك

هندسة أكثر، وزمن استجابة أطول، ومدونة تحتاج صيانة. كما ينتج أداة تجيب عن أسئلة أقل. وهذه هي المفاضلة المقصودة: بالنسبة لمهني يجب أن يكون عمله دقيقاً، أداة أضيق وموثوقة أفضل من أداة واسعة تختلق أحياناً.

معيار أداة الذكاء الاصطناعي المهنية ليس كثرة إجاباتها، بل إمكان الوثوق بما تجيب به.

كيف تختبرونها

اسألوا أسئلة تعرفون أن لا إجابة لها في المدونة. النظام المبني جيداً سيقول ذلك. أما الضعيف فسينتج شيئاً سلساً ومعقولاً، وهذا أنفع اختبار يمكنكم إجراؤه قبل شراء أي أداة ذكاء اصطناعي لعمل مهني.

اطّلعوا على صفحة الخدمة: كاتب.