Unsloth

وصف الشبكة العصبية

Unsloth is an open-source framework created tutorial large linguistic models. له. والمهمة الرئيسية هي جعل عملية الفرز أسرع بكثير وأكثر اقتصادا مقارنة بالأدوات القياسية. وبدلا من التحديث الكامل لجميع أوزان النموذج، يستخدم الإطار أساليب " لورا " و " كولورا " ، التي تخفض بدرجة كبيرة الاحتياجات من ذاكرة الفيديو والموارد الحاسوبية.

ويشمل الهيكل غير الملموس النواة المصممة على النحو الأمثل (اللائح المصممة من (تريتون (و (HIP هذه النواة تسرع في الحساب على GPU وتخفيض استهلاك الذاكرة. Feature of the framework - official Support for AMD graphics cards through software layer. هذا يبعد (أونسلوث) عن معظم المتشابهين المقررات وهي تركز حصراً على النظام الإيكولوجي للكاكاودا التابع لبرنامج الأمم المتحدة للبيئة.

يعمل الإطار. إلى نظام التشغيل لينكس وويندوز استخدم للنظم الفرعية لـ (ويندوز) التركيب يُدير فريقاً واحداً في المُحطّة، والمُسلّم يُصوّر تلقائياً كلّ شيء يعتمد عليه، بما في ذلك (بي تورتش روم).

Features of Unsloth

لمن تكون الشبكة العصبية الأنزلويث مناسبة؟

مطورون من طراز AMD GPU

The tool is primarily designed for enthusiasts and developers. معدّات أسلحة دمار شامل إنه يتعلق كم هو معزز محترف جيد للمستهلكين في الحلقات السابقة The maps were difficult due to lack of Optimized software.

مستخدمو الحواسيب المحمولة ونظم الاتفاقات

Support for RDNA 3.5 structure present into Ryzen AI 300 processors and Strix Halo platforms opens possibility modelling on notebook with embedded AMD graphics. وهذا يقلل من عتبة الدخول لأولئك الذين لا قوة لديهم بطاقات فيديو منفصلة.

أخصائيو التدريب

وبدعم من طريقة " غريبو " ، فإن " أونسلوث " مناسبة لمهام التعلم. وفيما يتعلق بالتدعيم، فإن ما يوسع نطاق الإطار هو أبعد من الضبط الرقابي التقليدي.

كيف تستخدم الشبكة العصبية غير المألوفة؟

التركيب

The installation process is reduced to execute one command in the terminal:

curl -fsSL https://unsloth.ai/install.sh | sh

وسيحدد المحتال تلقائيا تشكيلة النظام ويضع جميع العناصر اللازمة. بما في ذلك جمعيات التجمعات الشعبية للدماغ وغيرها من الإدمان.

تركيب النوافذ

مستعملو النوافذ لديهم حامض عبر باورشيل Since the framework works through the WSL subsystem necessary so this function has been activated in the system.

بدء العمل

وبعد التركيب، يمكن للمستعمل أن يحمّل واحدا من أكثر من 500 نموذج تمهيدي وأن يتابع. ويدعم الإطار الطريقة التقليدية للحفاظ على الحرائق والعمل مع تحديد كمية أربعة أرباع من خلال QLoRA.

الوظيفة الأساسية

دعم أساليب التدريس

Unsloth supports several approaches to learning : SFT (SFT) Learning with a teacher, LoRA (adaptation) low-ranking) and 4-bit QLoRA. ويتاح التدريب أيضا على التعزيز باستخدام طريقة برنامج الموارد العالمية.

التوافق مع معدات إدارة القذائف المضادة للأفراد

The framework officially supports AMD GPU through ROCm. توفر النواة المثلى في تريتون وHIP حواسيب أسرع. ويتوفر الدعم لمجموعة واسعة من البنيانات، من نظام الحسابات القومية الاستهلاكي 2 إلى خادم نظام الحسابات القومية رقم 4.

Inference and deplo

وبالإضافة إلى التعلم، يوفر التعليم غير الرسمي فرصاً للتنقص والنشر المحلي للنماذج السابقة التدريب التي تجعله أداة عالمية للعمل مع حركة التحرير. معدات خاصة

استحقاقات الأونسلوث

حفظ الذاكرة والوقت

AMD Unsloth يرتفع إلى 1.39 مرة أسرع ويستهلك حتى 1.33 مرة أقل ذاكرة. مع أدوات قياسية من طراز TRL مع الإصدار 2. للحصول على التدريب الكافي من 3 GB من ذاكرة الفيديو ما يقلل بشكل كبير من الاحتياجات Iron.

سهولة التركيب والاستخدام

تركيبة واحدة الفريق ميزة كبيرة. لا يحتاج المستعمل إلى تنظيم رومب يدوياً المعالين من الطوابع والعناصر الأخرى دعم النوافذ على قدم المساواة مع لينكس يجعل الأداة متاحة لجمهور أوسع.

رسمي دعم إدارة الشؤون الإدارية

Unsloth was released in collaboration with AMD. Ensure high-quality optimization and timely updates to new GPU structures. هذه أول أداة تدريب شعبية في مجال الإدارة المستدامة للأراضي. الذي يُضيءُ الحَرْنَة على Consumer Radeon و Ryzen AI.

عيوب لانسلوث

معدات التقادم

تقديم الدعم لـ 6000 RDNA 2 graphics cards is limited and only available on Linux. It also requires ROCm version 6.0 or later. ما قد يشكل عقبة أمام أصحاب بيئات البرمجيات القديمة.

عدم وجود بعض التكنولوجيا

ولا يتاح الإصدار 2 على أشرطة اكسفورمرز من طراز AMD بدلا من ذلك. إنه يفرض بعض الحدود على سرعة الحسابات في السيناريو. It is also not supported on Windows. العمل مع وحدات متعددة في نفس الوقت.

المعدات الجديدة

عدد من الحديث وتركز هذه الملامح على أحدث المعمار - 4، RDNA، 3.5، CDNA 3-4. قد تواجه بطاقات الفيديو الخاصة بالمسنين تعارضا تاما جزئيا.

ما المهام التي يحلها (انسلوث)؟

وتطبق الأداة على نماذج لغوية للتمركز على معدات إدارة القذائف. وهذا هو الهدف الرئيسي للإطار الذي أنشئ من أجله. كما أن نظام " أونسلوث " يدعم تعلم التعزيز - بفضل طريقة " غريبو " ، يمكن تدريب النماذج في البيئات. على المكافأة بعد مزيد من التدريب الإطار يُمكِنُك أَنْ تُؤدّيَ الدونَاتَ و نشر النماذج محلياً، بدون إشارة إلى الخدماتِ السحابيةِ.

الأسعار غير الساحلية

النسيج هو أداة المصدر المفتوح إنه ينتشر ولا توجد تعريفات لأي مستوى من مستويات الخدمة.

المصطلحات المستخدمة

The framework requires a GPU from AMD with support for ROCm 6.0 or later. If used graphics card structure RDNA 2 ( for example RX 6000), supported operating room Linux. مطلوب هكذا لدى المستخدم مهارات أساسية في العمل مع القيادة الخط والمحطة النوافذ إلزامية تفعيل النظم الفرعية WSL.

التوافر غير الملموس

الأداة حرة تماماً ولديها رمز مرجعي مفتوح Supported operational Linux and Windows (via WSL) القيود الإقليمية غير مذكورة - الخدمة متاحة للمستعملين من أي بلد. The source code of the project is posted on GitHub where he collected more than 68,000 stars, it shows the high popularity and activity of the community.

ما يميّز اللاسلوت عن الأنسجة

التوجيه AMD

The main difference between Unsloth and standard instruments - official Simple and optimized AMD GPU support via ROCm. Most analogues are oriented exclusively on NVIDIA CUDA that leaves Radeon cardholders without Radeon quality software for LLM fine tuning.

تكاليف المعدات

بفضل العمل ببطاقات التصوير بالأشعة السينية (أونسلوث) يسمح لكِ بأن تقومي بالرسم على الراديون الرخيص وهذا يجعل التعلم في متناول المستعمل الخاص على ميزانية محدودة.

الإنتاجية

مقارنة بأداة مثل (تي آر إل) مع (فلاش آتندشن 2)، يظهر (أونسلوث) أداء أفضل على نفس معدات (إيه إم دي)

خاتمة

وفتح إطلاق سراح غير منصف بدعم من إدارة الشؤون الإدارية مجتمعاً محتملاً جديداً. محلي وتتوفر الإدارة المحلية للأراضي الآن في معدات وحواسيب محمولة ذات رسوم بيانية منخفضة الاستهلاك. هذا مهم ويمكن لمستعملي النظام الإيكولوجي الآن اختيار المعدات أن يتخذوا خطوة لكسر مونوبولي في برنامج التعلم في مجال الآلات. استنادا إلى احتياجاتها وميزانيتها، وليس بسبب برامجيات التقييد. وإذا حافظ على وتيرة التنمية الحالية، يمكن أن يصبح نظام " لانسلوث " المعيار الفعلي للتعلم المحلي لنماذج اللغات على مجموعة واسعة من الأجهزة.