Llama 3.1 405B

Lama 3. 1405B

Lama ৩.১ ৪০৫ নিউরাল নেটওয়ার্কের বিবরণ

২০২৪ সালের জুলাই মাসে মেটার মাধ্যমে সবচেয়ে বড় উন্মুক্ত সোর্স ভাষার মডেল হলো লোলামা ৩. এর মধ্যে ৪০৫ বিলিয়ন পরামিতি রয়েছে এবং এটি ১৫ ট্রিলিয়নেরও বেশি টোকেন ব্যবহার করে (মানবীয় প্রতিক্রিয়া থেকে শিক্ষা লাভ করা)। কাজের কর্মক্ষমতার ক্ষেত্রে, মডেলটি পতাকাবাহী মডেলগুলোকে — জিটিপি-৪ এবং ক্লড ৩ Opus এর মতো — আর এর মডেলের ওজন পুরোপুরি খোলা, যা কিনা বিশেষ কাজের জন্য একটি ভিত্তি হিসেবে ব্যবহৃত হবে।

এই মডেলটি টেক্সট এবং কোডের সাথে কাজ করে এবং একটি ১২৮K টোকেনের কনটেক্সট উইন্ডোকে সমর্থন করে-এ দীর্ঘ নথি, বিস্তৃত সংলাপ এবং জটিল বহুভাষী যুক্তি বিশ্লেষণের জন্য যথেষ্ট। মেঘ ৩. ১-৫বি মেঘা ব্যবহার করে বাণিজ্যিকভাবে ব্যবহার করা যায় এবং যদি আপনার হাতে পর্যাপ্ত বিদ্যুৎ থাকে তাহলে নিজের সার্ভারে স্ব-সচ্ছন্দ রয়েছে।

Lama 3.1 ৪০৫B নির্ধারিত

১৪১ তে ৪০৫টা নিউরাল নেটওয়ার্ক এর জন্য উপযুক্ত কে?

গবেষক এবং বিশেষ কোম্পানি

৩. ১) হচ্ছে গবেষণা দল এবং কোম্পানির জন্য একটি আদর্শ সিদ্ধান্ত, যার নির্দিষ্ট ডোমেইনে আরো সুন্দর করার জন্য একটি ভিত্তি দরকার। ওজনের স্বাভাবিকতা ওষুধ, আইন, অর্থ এবং অন্যান্য শিল্পগুলোতে কাজ করার মডেলের সঙ্গে খাপ খাইয়ে নিতে পারে, যেখানে সাধারণ উত্তরের চেয়ে গভীরকরণ প্রয়োজন।

ওপেন- সোর্স মডেল ব্যবহার করে ডেভেলপার

যে সমস্ত নির্মাতা একটি GPT-4-level মডেল নিয়ে কাজ করতে চান, কিন্তু মুক্ত সোর্স সমাধান পছন্দ করেন Lama ৩.

কিভাবে এললামা ৩. ১ থেকে ৪০৫ ভাগ নিউরাল নেটওয়ার্ক ব্যবহার করতে হবে?

মেঘপুঞ্জের মাধ্যমে

একটি মেঘ সরবরাহকারীর মাধ্যমে যে মডেলটি পাওয়া যাবে তা হল: AWS Beddct, আজার মেশিন শেখা, জিসি ভেরটেক্স, অগ্নিসংযোগ, অথবা পুনরাবৃত্তি। নির্বাচিত সার্ভিসের মাধ্যমে নিবন্ধন করা হয়, এরপর যে মডেলটির মাধ্যমে API ব্যবহার করা হয়, যাতে নিজে নিজে অবকাঠামো স্থাপন না করে।

স্ব-পরীক্ষণ:

Lamama 31 চলছে বর্তমানে স্থানীয়ভাবে ৪০৫বিটি জি পিইউইউএস ব্যবহার করা প্রয়োজন, যেখানে এফপি৮ পরিষ্কার অবস্থায় থাকার সময় প্রতিটি স্মৃতি ৮০টা করে। এটা একটা গুরুত্বপূর্ণ চাহিদা, যা শুধুমাত্র স্থানীয় প্রতিষ্ঠানগুলোকে তাদের নিজস্ব সার্ভার বা উচ্চ-প্রশংসা ফলের সাথে যুক্ত করে।

ফ্রী পরীক্ষা

মডেলে প্রবেশের সীমা একই ভাবে প্রদান করা হয়। এছাড়াও আপনি হুগিং অভিব্যক্তিতে নমুনা মোডে মডেলটি পরীক্ষা করতে পারেন। মডেলের মান মূল্যায়নের জন্য এটা যথেষ্ট, কিন্তু নিয়মিত একটি গ্রাহকের প্রয়োজন হবে।

Lama 3. 140B এর বৈশিষ্ট্য

পরামিতির সংখ্যা

মুক্তির সময় ৪০৫ বিলিয়ন লিঙ্ক লোলামা ৩. এই বিশাল আকারের বিশাল আকার মডেলটির জটিল, বহুমুখী কাজের মাধ্যমে সরাসরি প্রভাবিত হয় যা গভীর বোধগম্যতা এবং লম্বা যুক্তির সাথে যুক্ত।

১২৮K টোকেনের উইন্ডো

মডেল প্রসেস প্রক্রিয়া মাত্র একটি অনুরোধে ১২৮ হাজার টোকেন। এর ফলে বৃহৎ নথি, লম্বা ডায়ালগ এবং সমগ্র বই, কোডবেস এবং আইনগত চুক্তিগুলো ব্যর্থ হবে।

উচ্চ মাত্রার স্কোর

৩. ১. ৬% অর্জন করেছে এমএমএলইউ-এর ( বিভিন্ন ডোমেইন এবং ৮৯% মানুষের উপর নির্ভর করে)। এই ফলাফলের ফলাফল সবচেয়ে ভালো বাণিজ্যিক মডেল হিসেবে উল্লেখ করেছে।

সম্পূর্ণ ভার বহন করে

অনেক প্রতিযোগীর বিপরীতে, মেটা কেবল API প্রকাশ করেনি, একই সাথে মডেল নিজেদের ওজনও প্রকাশ করেছে। বিশেষ বিশেষ কাজের জন্য প্রস্তুত ৩.

লোলামার ৩.

• GPT-4- স্তরবিশিষ্ট মান — মডেলটি বিকল্প বিকল্প বিকল্পের সমতুল্য, যেখানে স্বাধীন গবেষণা, পরিবর্তন এবং জরিমানার জন্য সহজলভ্য।
• সবচেয়ে বড় উৎস ভাষা মডেল সকল ওপেন সোর্স সমাধানের মধ্যে ৪০৫ বিলিয়ন পরামিতি সব থেকে বেশী বিশ্লেষণের সুবিধা প্রদান করে।
• ১২৮কি টোকেন কনটেক্সট * — এমন নথি তৈরি করতে সাহায্য করে, যা ছোট আকারে সাজানো যায় না ।
• মেটা লাইসেন্সের অধীনে বাণিজ্যিক ব্যবহার এই মডেলটি হয়তো কোম্পানিগুলোর বিজ্ঞাপনে ব্যবহার করা হতে পারে, যেখানে দর্শক থাকে প্রায় ৭০০ মিলিয়ন ব্যবহারকারী।
• মেঘের সরবরাহকারীর কাছ থেকে বিদ্যুৎ — অস্ট্রেলিয়ার বেডকক, আজার এবং অন্যান্য পরিষেবাগুলো ভারী অবকাঠামো নির্মাণ না করেই মডেল সরবরাহ করে থাকে ।

লোলামার ৩.

• বৃহৎ কম্পিউটিং প্রয়োজন স্থানীয় স্থাপনার জন্য অন্তত ৮১০০ জিপিইউএস প্রয়োজন যার প্রতিটিই ৮০টা জি পিইউএস আছে।
• উচ্চ API-র দাম এটা সহজ এবং রুটিনের কাজ করে।
• পরিধি অনেক মডেলের তুলনায়, সময়কে সংক্ষিপ্ত বিকল্পের তুলনায় অনেক উচ্চ বলে মনে করা হয় ।
• সম্প্রতি ব্যবহৃত বিভিন্ন ঘটনা — মডেলটির প্রশিক্ষণ তথ্য ২০২৪ সালের শুরুর দিকে বন্ধ করে দেয়া হয়েছে, তাই নতুন ঘটনা সম্পর্কে তথ্য হয়তো সঠিক বা নকল করা যাবে।

৩.

জটিল মাল্টি- প্ল্যাটফর্ম

এই মডেলটি বিশেষ করে কাজের ক্ষেত্রে শক্তিশালী, যার জন্য দীর্ঘ সময় ধরে এক যৌক্তিক চেইন দরকার: গাণিতিক চিহ্ন, পরিকল্পনা, বিশ্লেষণ, আইনগত বিশ্লেষণ। উচ্চ পর্যায়ের উইন্ডো ও উচ্চ- গুণগত মান । পুরো সাড়া জুড়ে জটিল যুক্তি বজায় রাখার জন্য BAR

প্রোগ্রামিং এবং কোড সহ কাজ

৩. ১. ৮. ৮% অর্জন করেছে মানব উন্নয়নের জন্য, যা কিনা প্রধান বাণিজ্যিক মডেল। এটা লেখা কোড, পুনর্মূল্যায়ন, অ্যালগরিদম ব্যাখ্যা এবং ডিবাগ করে।

নথি বিশ্লেষণ

১২৮কের নিদর্শনকে ধন্যবাদ, মডেলটি সম্পূর্ণ বই, বৈজ্ঞানিক প্রবন্ধ, আইনগত চুক্তি, অথবা কোডবেথের মাধ্যমে মূল তথ্য সংগ্রহ করে এবং পুরো বিষয়বস্তু সম্পর্কে প্রশ্নের উত্তর দিতে পারে।

জরিমানার জন্য ভিত্তি নির্মাণ করা হচ্ছে

ওজনের ঊর্ধ্বস্থতা লোলামা ৩. ১ ৪০৫বিকে ঔষধ, আইন এবং অর্থ প্রদানের ক্ষেত্রে বিশেষ মডেল তৈরি করার প্রাথমিক মঞ্চে পরিণত করে। গবেষকরা তাদের নিজস্ব তথ্য সংগ্রহে এই মডেলকে ভালভাবে মূল্যায়ন করতে পারে।

Lama 3. 15BC

মুক্ত প্রবেশাধিকার

একই সাথে অবাধ প্রবেশাধিকার সরবরাহ করা হয়। হুগিং এর একটি ডেমো সংস্করণও পাওয়া যাচ্ছে। মডেলের ক্ষমতার সাথে পরিচিত হওয়ার জন্য এটা যথেষ্ট।

পাইড পরিকল্পনা

একসাথে ব্যবহার করার মূল্য ১ মিলিয়নের মধ্যে ৩. এ ছাড়া, মেঘ সরবরাহকারীদের কাছ থেকে এই মডেলটি পাওয়া যায়: নির্বাচিত পরিসেবা উপলব্ধকারী ও ভলিউমের উপর নির্ভর করে।

Lama 3.1 ব্যবহারের জন্য ব্যবহার করা হয়

মডেলের সাথে কাজ করার জন্য, নির্বাচিত মেঘ প্রদানকারীর মাধ্যমে নিবন্ধন করা প্রয়োজন। বাণিজ্যিক ব্যবহার মেটা লালামা ৩. ১ কমিউনিটি লাইসেন্সের দ্বারা পরিচালিত, যা কোম্পানি কর্তৃক একজন দর্শকসহ মডেল ব্যবহারের অনুমতি দেয়। প্রায় ৭০০ মিলিয়ন ব্যবহারকারী। এই সীমা ঘনিষ্ট সংগঠনটি মেটা থেকে আলাদা লাইসেন্সের অনুরোধ করতে হবে।

Lama 3.1 এর আভার

এই মডেলটি বিশাল মেঘের প্লাটফর্মে পাওয়া যাচ্ছে: স্থানীয় ইনস্টলেশনের জন্য অন্তত ৮১০০ জিপিজিইউএস প্রয়োজন। যেহেতু মডেলটি সম্পূর্ণ খোলা, তাই কোন ভাষা বা আঞ্চলিক সীমাবদ্ধতা নেই- শুধুমাত্র মনোনীত মেঘের সেবা বা নিজস্ব হার্ডওয়্যারের সাথে যুক্ত হওয়ার ক্ষমতা দিয়ে।

কিভাবে লোলাম ৩.

GPT-4- স্তর সহ খোলা হবে

লোলামা ৩. ১ থেকে ৪০৫বি আর বাণিজ্যিক বিকল্পের মধ্যে প্রধান পার্থক্য হলো কাদিদ ৩ Opus (জিপিআর) সমমানের ওজনের সম্পূর্ণতা। বন্ধ মডেলগুলো নির্দিষ্ট কাজ, অভ্যন্তরীণ স্থাপত্য অধ্যয়ন, অথবা আপনার নিজস্ব অবকাঠামো চালু করার অনুমতি দেয় না। আমি ৩.১ ৪০৫বি এই সমস্ত ক্ষমতা প্রদান করে।

খোলা সোর্স মডেলসহ তুলনা

লোলামা ৩. ১ 70বি-এর তুলনায় এই সংস্করণ ৪০৫ বিলিয়নের কম মডেলকে জটিল কাজের সাথে তুলনা করেছে: গণিত, প্রোগ্রামিং এবং বহুমুখী যুক্তি। তবে প্রতিদিনের কাজের ক্ষেত্রে, মানগত পার্থক্য খুব স্বাভাবিক, অন্যদিকে লোলাম ৩.

অন্তর্ভুক্ত

Lama 31. 405B হচ্ছে মেটা-এর এক ঐতিহাসিক উন্মুক্ত মডেল, যা বন্ধ পতাকাবাহী মডেল জিপিটি-৪ এবং ক্লড ৩ Opus। এটি ওপেন সোর্স ভাষার মডেলদের জন্য একটি নতুন বার তৈরি করে এবং বিশেষ করে উপযুক্ত কাজের জন্য উপযুক্ত কাজের জন্য ভিত্তি হিসাবে। উচ্চ সম্পদ এবং খরচ সত্ত্বেও, ৩.