التحقق من هلوسات LLM عبر عرض المصادر باستخدام SQL، دون إعادة تدريب

9 نوفمبر 202616 الآراء

تبحث الدراسة فيما إذا كان بإمكان نموذج لغوي كبير توظيف مهارة رمزية أساسية — إنشاء قاعدة بيانات SQL من المستندات المصدرية — للاستدلال على المصدر دون إشراف عند كشف الهلوسات. ويحقق هذا المسار العصبي الرمزي على مجموعتي RAGTruth وDiaHalu دقة أعلى من التنبؤ المباشر، ويضاهي أحدث الأساليب دون الحاجة إلى ضبط دقيق بحسب المجال.

التحقق من هلوسات LLM عبر عرض المصادر باستخدام SQL، دون إعادة تدريب

مهمة اكتشاف الهلوسة

الهلوسة هي استنتاج يصدر عن نموذج لغوي ويكون خاطئًا من الناحية الواقعية أو لا يدعمه المصدر. ويصعب اكتشاف هذه الاستنتاجات بسبب غموض آليات استدلال نماذج LLM. فلا يُعرف الكثير عن أسباب عدم دقة استنتاجات النموذج.

تبحث المقالة في اكتشاف الهلوسة دون إشراف. ويتحقق النهج من الاستنتاج بالرجوع إلى المصدر، لا إلى الثقة الداخلية للنموذج. الخلاصة: يتطلب التحقق مرجعًا خارجيًا — وهو المستندات المصدرية.

قاعدة بيانات SQL بوصفها تمثيلًا للمصادر

يقترح المؤلفون تكليف نموذج لغوي ببناء قاعدة بيانات SQL انطلاقًا من المستندات المصدرية. وتصبح القاعدة تمثيلًا منظمًا للحقائق الواردة في المصادر. ثم تُستخدم في الاستدلال بالاستناد إلى المصدر والإجابة المولّدة.

الخلاصة: يحوّل تمثيل SQL عملية التحقق إلى استعلامات للبيانات.

مسار عمل عصبي-رمزي للتحقق

يعتمد مسار عمل اكتشاف الهلوسة على قاعدة البيانات التي جرى بناؤها. وهو يتيح التحقق العصبي-الرمزي، إذ يجمع بين نموذج لغوي وعمليات رمزية على قاعدة بيانات SQL. ويجري التحقق بالرجوع إلى المصدر والإجابة المولّدة.

الخلاصة: تصبح خطوة التحقق صريحة وقابلة لإعادة الإنتاج من خلال الاستعلامات.

مقارنة بالتنبؤ المباشر

يتفوق النهج على التنبؤ المباشر في مجموعتي بيانات RAGTruth وDiaHalu. كما ينافس أحدث أساليب اكتشاف الهلوسة. ولا يتطلب النهج ضبطًا دقيقًا خاصًا بمجال معين، بل يعتمد على الكفاءة العامة منخفضة المستوى المتوفرة بالفعل لدى نماذج LLM.

| المعيار | التنبؤ المباشر | نهج قاعدة بيانات SQL | | ما الذي يستخدمه | يصدر نموذج LLM تقييمًا مباشرةً | قاعدة بيانات SQL مبنية على المصادر وتحقق عصبي-رمزي | | الضبط الدقيق الخاص بمجال معين | غير مذكور | لا يتطلبه | | النتائج على RAGTruth وDiaHalu | أداؤه أدنى من نهج SQL | يتفوق على التنبؤ المباشر وينافس أحدث الأساليب |

الخلاصة: يوفر نهج SQL سندًا قابلًا للتحقق يستند إلى المصدر. قُبلت المقالة في ورشة عمل GroundLM EMNLP 2026.

معيار عملي للاختيار

يشمل معيار الاختيار عدة شروط:

  • توفر مستندات مصدرية؛
  • إمكانية بناء قاعدة بيانات SQL انطلاقًا من المصدر؛
  • عدم الحاجة إلى ضبط دقيق خاص بمجال معين؛
  • إجراء التحقق بالرجوع إلى المصدر والإجابة المولّدة.

يعتمد النهج على الكفاءة الرمزية منخفضة المستوى لنماذج LLM، مثل SQL. الخلاصة: يكون النهج مناسبًا عندما يستند التحقق إلى المصدر ولا تكون هناك حاجة إلى ضبط دقيق خاص بمجال معين.

الأسئلة المتكررة

المواد ذات الصلة

جميع المواد
MathAdv: ما الذي تخفيه الدقة النهائية للبراهين الآلية
الأخبار

MathAdv: ما الذي تخفيه الدقة النهائية للبراهين الآلية

تقيّم مجموعة مهام تشخيصية تغطي 13 فرعًا جامعيًا ودراسات عليا في الرياضيات أنظمة البرهنة الآلية في Lean 4، ليس من حيث النتيجة النهائية فحسب، بل أيضًا من حيث الإلمام بالمادة وجودة الاستدلال غير الرسمي والقدرة على التعامل مع إعادة صياغة الشروط. ويُظهر التحليل التفصيلي أن تحويل المسألة إلى صيغة رسمية لا يزال العقبة الأبرز، وأن النجاح يعتمد بشدة على فرع الرياضيات وطريقة صياغة المسألة.

9 نوفمبر 2026
AffordanceWAM: إمكانات الفعل كوسيط بين التنبؤ بالمشهد والتحكم في الذراع الروبوتية
البحوث

AffordanceWAM: إمكانات الفعل كوسيط بين التنبؤ بالمشهد والتحكم في الذراع الروبوتية

يصف العمل نموذجًا توليديًا يتنبأ في الوقت نفسه بمشاهدات RGB المستقبلية والحقول العددية والخرائط الحرارية لإمكانات التفاعل، وبأوامر الروبوت المستمرة، مستفيدًا من مقاطع الفيديو البشرية لزيادة تنوع التفاعلات دون الحاجة إلى تعليقات توضيحية للأفعال أو إعادة استهدافها. وفي RoboCasa وCALVIN ABC→D والمهام الواقعية، يحقق هذا النهج تحسنًا ثابتًا مقارنةً بالخطوط الأساسية المعتمدة على RGB فقط أو على بيانات الروبوت فقط.

9 نوفمبر 2026
تحرير العروض التقديمية كعمليات قابلة للتحكم: إطار العمل EditPPT ومعيار DeckEdit-Bench
الأخبار

تحرير العروض التقديمية كعمليات قابلة للتحكم: إطار العمل EditPPT ومعيار DeckEdit-Bench

يحلل المؤلفون تحرير الشرائح عبر تحديد العناصر المستهدفة والإجراءات المسموح بها والتحقق من بقاء المحتوى غير المستهدف دون تغيير، بدلًا من توليد الشيفرة بحرية. ولقياس الجودة، أنشؤوا DeckEdit-Bench (183 مهمة على 28 عرضًا تقديميًا من إعداد أشخاص)، وأظهر مخطط EditPPT متعدد الوكلاء، باستخدام خمسة نماذج أساسية، نجاحًا في 66.7–74.9% من المهام مع الحفاظ على أكثر من 97% من المحتوى.

8 نوفمبر 2026
التحقق من هلوسات LLM عبر عرض المصادر باستخدام SQL، دون إعادة تدريب