Llama 3.2 90B Instruct

Llama 3.2 90B Instruct

Description of the Llama 3.2 90B Instruct Neural Network

Llama 3.2 90B Instruct is a large multimodal language model developed by Meta. ويمكنها تجهيز النصوص والصور في آن واحد، وإتاحة فرص واسعة لمهام الاعتراف البصري، وتحليل المحتوى البياني، والتوليد التلقائي للصور.

ويقدم النموذج الدعم لسياق يصل إلى 000 128 شخص، مما يتيح له العمل بكميات كبيرة من البيانات في طلب واحد. ويكتسي ذلك أهمية خاصة بالنسبة للمهام التي تتطلب تحليل الوثائق الطويلة أو الصور الكبيرة. Llama 3.2 90B ويُستفاد من التعليم على النحو الأمثل لنشره ليس فقط في البنية التحتية لخواديم الحاسوب، بل أيضا في أجهزة الحافة والأجهزة المتنقلة، مما يجعله متاحا لمجموعة واسعة من حالات الاستخدام.

The model was released on September 25, 2024, and is distributed under the llama3 2 license. It is available both via API and for local deployment, including through the Hugging Face repository.

القدرات المتعددة الوسائط

Llama 3.2 90B ويجمع التعليم بين تجهيز النصوص والصور. ويمكن للنموذج " أن يرى " الصور، وأن يحلل محتواها، وأن يجيب على الأسئلة المتعلقة بالصور، وأن يورد وصفا للنصوص. هذا يجعلها أداة مضادة للبصر

مقاييس الأداء والمخصصات

وفي الاختبارات، يظهر النموذج نتائج قوية: AI2D - 92.3 في المائة، DocVQA - 90.1 في المائة، VQAv2 - 78.1 في المائة. ويبلغ متوسط النتيجة عبر الجناح المرجعي 71.3 في المائة، مما يؤكد قدرتها التنافسية بين نماذج اللغات الكبيرة.

Llama 3.2 90B المواصفات التعليمية

من هو (لاما 3-2 90B) الشبكة العصبية المناسبة؟

المطورون ومهندسون التعلم

ويناسب هذا النموذج الأخصائيين الذين يبنون تطبيقات الرؤية الحاسوبية، والأقسام الدردشة، ونظم تحليل الوثائق، أو أدوات توليد المحتوى. بفضل دعم نداء المهام، والنواتج الهيكلية، وتنفيذ المدونة، Llama 3.2 90B ويمكن إدماج التعليم في منتجات البرامجيات المعقدة.

الباحثون والباحثون

The open license and availability of weights on Hugging Face make the model interesting for research projects. وتسمح القدرة على تحسين الأداء والاختبار بالدفعة بتكييف النموذج مع مهام محددة.

الأفرقة العاملة مع وحدة الرؤية

Llama 3.2 90B وسيكون التعليم مفيداً لتلك التجهيزات الآلية للصور: وصف الصور، واستخلاص النصوص من الوثائق، وتحليل الخرائط والرسوم البيانية، والاعتراف بالأشياء.

كيف تستخدم شبكة (لاما 3-2 90B) العصبية؟

Via API

والنموذج متاح من خلال نظام تقييم الأداء. وتوفر الصفحة النموذجية وصلات بوثائق نظام المعلومات الإدارية المتكامل، مما يسمح بالتكامل السريع. ويكلف الاستخدام ١,٢٠ دولار لكل مليون رمز لكل من المدخلات والناتج.

النشر المحلي

وبالنسبة لأولئك الذين يرغبون في العمل مع النموذج على خواديمهم أو أجهزةهم الخاصة، فإن مستودعا للوجه الثقيل متاحا حيث يمكن تحميل الأوزان النموذجية. Llama 3.2 90B ويُستفاد من التعليم على النحو الأمثل لتشغيل الأجهزة المتحركة والمتحركة، مما يسمح بالنشر حتى في البيئات ذات الموارد الحاسوبية المحدودة.

الإدماج في التطبيقات

ويقدم النموذج الدعم لكثير من القدرات المتقدمة: نداء المهام، والنواتج المصممة، وتنفيذ المدونة، والبحث عن شبكة الإنترنت، والاختبارات المتعلقة باتش. وهذا يجعلها أداة مرنة لإدراجها في النظم القائمة.

Key Features of Llama 3.2 90B Instruct

تعدد الوسائط

ويقدم النموذج الدعم للاعتراف البصري، والتفسير بشأن محتوى الصور، والتوليد التلقائي للاختفاء. ويمكنها معالجة الاستفسارات المتعلقة بالنص والبيانات البيانية في دورة واحدة.

السياق الطويل

ويسمح طول السياق البالغ ٠٠٠ ١٢٨ شخص بتجهيز كميات كبيرة من المعلومات - وثائق طويلة، وكتب كاملة، وصناديق متعددة الصفحات، أو سلسلة من الصور - دون تقسيم الطلب إلى أجزاء.

القدرات الوظيفية

Llama 3.2 90B (ج) تعزيز وظيفة الدعم التي تتطلب الاتصال، والسماح للنموذج بالتفاعل مع الأدوات الخارجية ومع مؤشرات الأداء التطبيقية. ويكفل الناتج الهيكلي إعادة البيانات في شكل محدد. The ability to execute code and search the web expands possible use cases.

تجهيز الغرامة والدفع

النموذج يدعم التحسين، مما يسمح بذلك ينبغي تكييفها مع مهام ومجالات محددة. ويمكِّن الإمتحان من تجهيز العديد من الطلبات في وقت واحد، مما يقلل من الكفاءة والتكاليف.

مزايا Llama 3.2 90B Instruct

الأداء الرفيع المستوى

ويظهر النموذج نتائج قوية في مهام فهم الصور والوثائق، مثل AI2D (92.3 في المائة)، و DocVQA (90.1 في المائة)، و VQAv2 (78.1 في المائة). وهذا يؤكد قدرته على تحليل المعلومات البصرية بدقة.

عملية إدج فعالة

على عكس العديد من النماذج الكبيرة، Llama 3.2 90B ويُستفاد من التعليم على النحو الأمثل لنشره على الحافة والأجهزة المتنقلة. وهذا يقلل من احتياجات البنية التحتية ويتيح استخدام النموذج في السيناريوهات الخارجية.

التكلفة

وهناك سعر قدره ١,٢٠ دولار للمدخلات والمخرجات على حد سواء هو سعر تنافسي لنموذج يبلغ ٩٠ بليون بارامتر. ويتيح هذا التسعير إمكانية استخدامه على نطاق واسع.

مرونة النشر

ويمكن استخدام النموذج عن طريق نظام المعلومات المسبقة عن علم، أو نشره محلياً، أو الوصول إليه من خلال واجهة الهانغ. تقديم الدعم لكثير من الملامح المتطورة (المكالمة، المخرجات الهيكلية، تنفيذ المدونة، البحث على شبكة الإنترنت، الاختبار، التعليم الغرامي) ينبغي تكييفها مع مجموعة واسعة من المهام.

مخالفات لاما Instruct

الاحتياجات العالية من الموارد للنشر المحلي

وعلى الرغم من الاستخدام الأمثل لأجهزة الحافة، فإن نموذجاً به 90 بليون بارامتر يتطلب قدراً كبيراً من القوة الحاسوبية والذاكرة من أجل التشغيل المحلي الكامل. يلزم توفير موارد كبيرة من المعدات الحاسوبية لتشغيلها على نحو سليم أجهزة قياسية

معلومات محدودة عن التوافر الإقليمي

ولا تحدد بيانات المصدر القيود الإقليمية على الاستخدام النموذجي. This may create difficulties for users in certain countries or regions where access to Meta models may be limited.

المهام التي يقوم بها Llama 3.2 90B حيلة؟

التعرف على الضحايا وتحليل الصور

ويمكن للنموذج أن يعترف بالأجسام والمشاهد والنصوص والعناصر الأخرى في الصور. ويسمح ذلك باستخدامه في التشغيل الآلي لتجهيز المحتوى البصري في مختلف الميادين.

بشأن محتوى الصور

Llama 3.2 90B ولا يقتصر الأمر على الاعتراف بالأشياء فحسب بل يمكن أيضاً أن يستخلص استنتاجات منطقية استناداً إلى ما يراه: الإجابة على الأسئلة، ومقارنة العناصر، وتفسير المشاهد.

التصوير

وتتمثل إحدى المهام الرئيسية للنموذج تلقائيا في إعداد وصفات نصية للصور. ويمكن تطبيق ذلك في النظم المساعدة للضعف البصري، وإدارة المحتوى، والفهرسة.

المهام الميسرة

ويمكن للنموذج أيضا أن يتناول مهاما محضة قائمة على النصوص: كتابة النصوص، والرد على الأسئلة، والتلخيص، وتوليد الرموز. وهذا يجعلها أداة متنوعة لا تقتصر على تجهيز الصور.

Llama 3.2 90B الخصخصة المؤسسة

وتبلغ تكلفة استخدام النموذج ١,٢٠ دولار لكل مليون طن لكل من المدخلات )البيانات الواردة( والناتج )النص المعلن(. وهكذا، فإن التسعير غير متكافئ - وينطبق نفس المعدل على طلبات المستعملين وردود النماذج.

ويعد نهج التسعير هذا معياراً للعديد من تدابير الحد من الفقر المدقع ويسهل حساب التكاليف حسب حجم الاستخدام. وبالنسبة للمشاريع الكبيرة ذات الحمولة العالية، يقدم النموذج الدعم للاختبارات، مما يمكن أن يقلل التكلفة النهائية للطلبات الجماعية.

Llama 3.2 90B المصطلحات المستخدمة

The model is distributed under the llama3 2 license developed by Meta. وتفرض هذه الرخصة شروطا معينة على الاستخدام التجاري وغير التجاري، بما في ذلك القيود المتصلة بحجم النشر والمناطق المحتملة للتطبيق.

ويوصى المطورون بأن يستعرضوا بعناية نص الترخيص قبل استخدام النموذج، لا سيما إذا كان من المقرر نشره تجاريا أو تعديله على البيانات المتعلقة بممتلكاته. ولا تحدد البيانات المصدرية قيوداً مفصلة، ولذلك ينبغي فحص المصطلحات الحالية على صفحات " Meta " و " Hugging Face " الرسمية.

Llama 3.2 90B توفير التعليم

والنموذج متاح للتنزيل والاستعمال من خلال منصة الوجه المتشدد، حيث تُنشر أوزانه. ويمكن أيضا نشرها على الحافة والأجهزة المحمولة بفضل تحقيق الاستخدام الأمثل لها من قبل المطورين

ولا تحدد الصفحة النموذجية القيود الإقليمية. وينبغي للمستعملين في بلدان مختلفة أن يفحصوا بصورة مستقلة مدى توافر خدمات الميتا في منطقتهم. ومن الضروري أيضاً، من أجل استخدام نظام تقييم الأداء، استعراض شروط خدمة مقدم الطلب.

How Llama 3.2 90B Instruct Differs from Alternatives

Multimodality with a Large Context

Among alternatives such as Llama 3.2 11B Instruct, Gemma 3 27B, Mistral Small 3.1 24B Instruct, or GPT OSS 20B, Llama 3.2 90B ويبرز التعليم بأكبر حجم )٩٠ بليون بارامتر( وتقديم الدعم لسياق يتألف من ٠٠٠ ١٢٨ شخص. ويتيح هذا النموذج تجهيز بيانات أكثر بكثير في طلب واحد من العديد من المنافسين.

التكلفة المتبقية

ويبلغ حجم النموذج ١,٢٠ دولار لكل مليون تاكنس، وهو في منتصف السعر بالنسبة لحجمه. وقد تكون بعض البدائل الأصغر أرخص ولكنها أقل أداء، في حين أن نماذج المنافسة الأكبر قد تكلف أكثر.

Optimization for Edge Deves

ولا تُستخدم جميع النماذج المتعددة الوسائط الكبيرة على النحو الأمثل لتشغيلها على الحافة والأجهزة المتنقلة. Llama 3.2 90B وقد صُمّم التعليم مع مراعاة هذا الشرط، مع وضعه بعيداً عن العديد من البدائل التي تركز حصراً على نشر الخواديم.

دعم مجموعة واسعة من المعالم

على عكس بعض البدائل، Llama 3.2 90B وتدعم المؤسسة جميع القدرات الحديثة الرئيسية: نداء المهام، والنواتج المصممة، وتنفيذ المدونة، والبحث عن شبكة الإنترنت، والإسناد عن طريق الاتصال الحاسوبي المباشر، والتحسين. وهذا يجعله حلا عالميا لا يتطلب أدوات إضافية للتكامل.

خاتمة

Llama 3.2 90B Instruct is a powerful multimodal model from Meta with a 128,000-token context, optimized for edge and mobile devices. It achieves strong results in benchmarks such as AI2D (92.3%), DocVQA (90.1%), and VQAv2 (78.1%), and offers a broad range of supported capabilities, including fine-tuning and batch processing. ويكلف الاستخدام ١,٢٠ دولار لكل مليون رمز لكل من المدخلات والناتج. والنموذج متاح عن طريق منظمة " الوجه المظلم " و " API " ، مما يجعلها أداة مرنة للاعتراف البصري، وتحليل الصور، ومهام توليد النصوص.