কেন স্থানীয় স্থাপনা বিষয়টি পরিষ্কার করছে
ডিপলিথ আর১ এর অনলাইন সংস্করণ মাঝে মাঝে উচ্চারিত হয়: এই সেবাটি বেশী করা হয়, আর এর জন্য আপনাকে স্বাভাবিক ভাবে অপেক্ষা করতে হবে। স্থানীয়ভাবে এই সমস্যা সমাধান করে একবার এবং সব কিছুর জন্য এটি সমাধান করে- মডেলটি আপনার ডিস্কের উপর নির্ভর করবে এবং অন্য কোন সার্ভারের উপর নির্ভর করবে না। কোন লাইন নেই, কোন সীমা নেই, আর কোন "দুর্নীতি" বার্তা নেই।
প্রক্রিয়াটি বাইরের থেকে জটিল মনে হতে পারে, কিন্তু বাস্তবে এটা তিনটি ধাপের মধ্যে আসে: একটি মডেল ব্যবস্থাপককে ইনস্টল, মডেলটি নিজেই ডাউনলোড করুন এবং একটি সুবিধাজনক ইন্টারফেস যোগ করুন।
ধাপ ১, ওলামা ইনস্টল করুন
Ollama স্থানীয় ভাষার মডেলের জন্য একটি ধরন ব্যবস্থাপক। এটা ডাউনলোড, চালান এবং একটি নির্দিষ্ট কমান্ডে এলএমএমএল চালু করে, তাই এটা আমাদের কাজের জন্য উপযুক্ত। ডিভিশন আর১ এর সকল সংস্করণ বিনামূল্যে পাওয়া যাবে।
এখানে কি করতে হবে:
- ওলামা’র অফিসিয়াল ওয়েবসাইট থেকে ইনস্টলার ডাউনলোড করুন।
- ইনস্টলার চালান এবং শেষ করার জন্য অপেক্ষা করুন।
- ইনস্টলেশনের পর, ওলামা আইকন সিস্টেম ট্রেতে দেখা যাবে- নিশ্চিত ভাবে যে সবকিছু কাজ করছে।
ধাপ ২, ডিভিশন R1 ডাউনলোড করা হচ্ছে
ওল্লামা ওয়েবসাইট খুলুন, চলুন। মডেল ট্যাব, এবং ডিভিশন R1 খুঁজে বের করো। অনেক সংস্করণ রয়েছে এবং পছন্দগুলো সরাসরি হার্ডওয়্যারের উপর নির্ভরশীল:
- যদি আপনার কাছে স্বল্প পরিমাণ ভিডিওর স্মৃতি থাকে, তাহলে ছোট একটা মডেল বেছে নিন- এটা VRAM সীমার উপর আঘাত করবে না;
- আউটপুটের বৈশিষ্ট্য অত্যন্ত ধীর, একটি নিম্ন সংস্করণ ব্যবহার করুন
- ৭বি আদর্শ হচ্ছে প্রথম রানের জন্য সবচেয়ে জনপ্রিয় এবং ভারসাম্যপূর্ণ সিদ্ধান্ত।
মডেল পাতায়, ইনস্টল কমান্ড কপি এবং তারপর:
- Power সহায়তা প্রদর্শন, অথবা আন-ইনস্টল করুন
cmd. . - কমান্ডটি টার্মিনালে পেস্ট করুন এবং প্রবেশ করান ।
- Ollama স্বয়ংক্রিয়ভাবে মডেল ডাউনলোড করে পাঠিয়ে দেওয়া হবে।
তারপর, তুমি সরাসরি কমান্ড লাইন থেকে প্রশ্ন করতে পারো। মডেল অনুরোধ প্রক্রিয়াকরণের সময়, একটি ভাবো আউটপুটে মার্কার দেখা যাচ্ছে- এর উত্তর দেওয়ার আগে তার 'যুক্তি' মনে হচ্ছে।
মৌলিক ব্রাউজার যোগ করুন
কনসোলের আলাপনগুলো কার্যকরী নয়, কিন্তু দ্রুত তা হয়ে যায়- আপনি একটি পরিচিত চ্যাট-পিটি স্টাইল ডায়ালগ জানতে চান। ক্রোমের জন্য পাতাস্টিস্ট এক্সটেনশন সাহায্য করবে। এটা ক্রোম ওয়েব স্টোরে খুঁজে দেখুন — প্রথম অনুসন্ধান ফল হবে ।
এরপর এই ধাপ অনুসরণ করুন:
- ব্রাউজারের উপরের প্রান্তে, Pagetisters আইকন ক্লিক করুন ।
- ইনস্টল করা মডেল নির্বাচন করুন।
- পছন্দ X-র বৈশিষ্ট্য এবং একটি মডেল নির্ধারণ করুন অ্যাপ্লেট মডেল. .
- পরিবর্তন সংরক্ষণ করা হবে।
এই এক্সটেনশনের মধ্যে কিছু সুন্দর বোনাস আছে। নিচের ডান কোণে, আপনি ওয়েব সার্চ সক্রিয় করতে পারেন- মডেলটি ইন্টারনেট থেকে তাজা ডাটা বের করতে সক্ষম হবে। আর যদি আপনার কাছে বেশ কিছু মডেল থাকে, আপনি ইন্টারফেস থেকে তাদের ডান বাটন পরিবর্তন করতে পারেন।
নিম্ন রেখা
এর ফলে সম্পূর্ণ অফলাইন আলাপনের সাথে যুক্ত একটি সম্পূর্ণ চ্যাট: বহিস্থিত সার্ভিসের ওপর কোন স্বাধীনতা নেই, এবং সুবিধাজনক ব্রাউজার ইন্টারফেস ব্যবহার করা যাবে। একবার সেটের জন্য একটু সময় ব্যয় করা যায়- আর মডেল সবসময় হাতে থাকবে।
