طبقة تصنيفية فوق SpeechLLM: أين تتفوق على توليد التسميات في التعرّف على المشاعر
باستخدام مجموعتي IEMOCAP وMELD، جرت مقارنة التنبؤ التوليدي بالوسم العاطفي بالمُصنِّف الخطي الذي يعمل على التمثيلات الكامنة لنموذج SpeechLLM صغير. ولا يكون التحسن في الأداء الناتج عن المُصنِّف عامًا؛ إذ يعتمد على مجموعة البيانات وعلى استخدام النصوص المرجعية أو مخرجات التعرّف الآلي على الكلام (ASR).
نهجان للتعرّف على المشاعر
تقارن المقالة بين توليد LLM لرمز تسمية والتصنيف التمييزي باستخدام رأس خطي فوق الحالات المخفية لـ LLM. يعتمد النهج التوليدي على تمثيلات الإخراج الموجودة مسبقًا لدى LLM. أما النهج التمييزي فيضيف إلى النموذج رأسًا تصنيفيًا منفصلًا.
| المعيار | توليد رمز تسمية | التصنيف التمييزي |
|---|---|---|
| دور LLM | يوفّر تمثيلات الإخراج للتسمية | يوفّر حالات مخفية للرأس |
| آلية اتخاذ القرار | يولّد LLM رمز تسمية | يصنّف الرأس الخطي الحالة المخفية |
| ما يُستخدم | إخراج النموذج الجاهز | الحالات المخفية لـ LLM |
يكمن الفرق العملي في أن التوليد يستخدم إخراج النموذج الجاهز، بينما يقرأ الرأس الحالات المخفية.
شروط المقارنة
أُجريت المقارنات على IEMOCAP وMELD. واستخدموا SpeechLLM صغيرة الحجم: مُرمِّز Whisper-medium مجمّدًا وLLM بحجم 3B. استُخدمت في كل مقارنة نصوص مرجعية ونصوص ASR. وتشمل المقارنة مصدرين للنص، لذا جرى التحقق من تأثير الرأس لكل مصدر على حدة. معيار التقييم: قارن النتائج داخل مجموعة البيانات الواحدة ومصدر النص الواحد فقط.
متى يتفوّق الرأس التصنيفي على توليد التسميات
حسّن الرأس التصنيفي Macro F1 في 10 من أصل 14 إعدادًا. وعلى IEMOCAP، حسّن جميع الإعدادات التي استخدمت نصوص ASR، وبلغ Macro F1 نسبة 76.97%. وهناك أيضًا، أظهر وضع الصوت فقط تحسنًا ملحوظًا. أما على MELD، فقد ساعد الرأس عند استخدام الصوت فقط، لكنه لم يساعد مع نصوص ASR. الخلاصة: يعتمد التفوق على مجموعة البيانات ومصدر النص. ولا يتفوّق الرأس على توليد التسميات في جميع الحالات.
لماذا لا يمكن تعميم الاستنتاجات المستخلصة من النصوص المرجعية
تبلغ نسبة WER في نصوص ASR على MELD مقدار 32.38%. وفي 4 من أصل 6 إعدادات تستخدم النص، يتغير اتجاه تأثير الرأس بين النصوص المرجعية ونصوص ASR. لذلك، لا يلزم أن تظل الاستنتاجات المستخلصة من النصوص المرجعية صحيحة عند استخدام ASR. المعيار العملي: اختبر الرأس على مصدر النص الذي سيُستخدم فعليًا.
ما الذي تكشفه أقرب رموز المفردات
على IEMOCAP وMELD، كانت رموز مفردات LLM الأقرب إلى متجهات الفئات المتعلَّمة في الغالب كلمات مرتبطة بالمشاعر. ولم تكن أسماءً صريحة للمشاعر. ويبيّن ذلك أن اسم المشاعر الصريح لا يتطابق بالضرورة مع أقرب رمز في المفردات. معيار التحقق: انظر إلى الرموز القريبة من متجه الفئة، وليس إلى اسم التسمية وحده.
معيار الاختيار
يعتمد اختيار النهج على حقيقتين: مجموعة البيانات ومصدر النص.
- بالنسبة إلى نصوص ASR، اختبر الرأس على ASR، لا على النص المرجعي.
- في وضع الصوت فقط، ضع في الحسبان التحسن على IEMOCAP وMELD.
- لا تعمّم الاستنتاجات المستخلصة من النصوص المرجعية على ASR.
- لتفسير الفئات، انظر إلى أقرب رموز مفردات LLM.
المعيار النهائي: يتفوّق الرأس على توليد التسميات عندما يُظهر الاختبار على مجموعة البيانات المستهدفة ومصدر النص المستهدف تحسنًا.
الأسئلة المتكررة
المواد ذات الصلة
جميع المواد
تتعرّف النماذج اللغوية الكبيرة الطبية على تحديثات التوصيات، لكنها غالبًا ما تجيب وفقًا للإرشادات القديمة
أظهرت دراسة ChronoEvo التي شملت 1709 تغييرات في التوصيات السريرية أن النموذج الأساسي رصد التحديث في 90,8% من الإجابات، لكنه طبّقه بالكامل في 58,5% فقط، وظلت فجوة قدرها 32,3 نقطة مئوية قائمة لدى 14 نموذجًا. وحتى تعزيز بروز التحديثات لم يحقق زيادة ملحوظة في التطبيق الكامل للقواعد الجديدة ضمن التوصيات السريرية.
4 نوفمبر 2026
نموذج العالم للوكلاء الذين يستخدمون نماذج لغوية كبيرة مغلقة: التصحيح عند نقاط الخطر
اقتُرحت PAWM بوصفها أداة تنبؤ خارجية لا تكرر المراقبة خطوة بخطوة، بل تتدخل عند احتمال حدوث إخفاق وتُبعد الوكيل عن الإجراء الخاطئ. بعد الضبط الدقيق المُشرف (SFT) على سيناريوهات اصطناعية والتدريب المشترك باستخدام GRPO، حققت الطريقة تحسنًا بنسبة 24.3% في ScienceWorld و7.7% في WebArena-Lite مع Claude Sonnet 4.5.
4 نوفمبر 2026
من التقديرات الفردية إلى المجموعات المقبولة: فك الترميز الشامل في ظل قيود DDI
تقارن المقالة بين الاختيار العالمي الدقيق لمجموعة متوافقة من الأدوية، المنفذ باستخدام البرمجة الخطية بالأعداد الصحيحة المختلطة، وعدة أساليب محلية لإزالة تعارضات DDI مع تثبيت تقديرات FLAME على MIMIC-III. في مجموعة الاختبار، يحقق النهج العالمي تحسناً طفيفاً لكنه ثابت في مقياس Jaccard، ويزداد هذا التحسن مع تشديد القيود ليصل إلى +0.0064 مقارنةً بأقوى طريقة محلية أساسية.
4 نوفمبر 2026