क्यों स्थानीय तैनाती समझ में आता है
DeepSeek R1 के ऑनलाइन संस्करण में कभी-कभी हिचकी होती है: सेवा ओवरलोड हो जाती है, और आपको जवाब देने के लिए हमेशा की तुलना में काफी लंबा इंतजार करना पड़ता है। इसे स्थानीय रूप से एक बार इस समस्या को हल करने और सभी के लिए - मॉडल आपकी डिस्क पर होगा और अब किसी और के सर्वर की स्थिति पर निर्भर नहीं होगा। कोई कतार नहीं, कोई सीमा नहीं, और बाद में कोई "तीन बार" संदेश नहीं।
प्रक्रिया बाहर से जटिल लग सकती है, लेकिन वास्तव में यह सब तीन चरणों में आता है: एक मॉडल मैनेजर स्थापित करें, मॉडल को डाउनलोड करें और सुविधाजनक इंटरफ़ेस जोड़ें।
चरण 1। ओलमा स्थापित करना
Ollama स्थानीय भाषा मॉडल के लिए प्रबंधक का एक प्रकार है। यह एक ही आदेश के साथ LLM को डाउनलोड, रन और स्विच करता है, इसलिए यह हमारे कार्य के लिए एक सही फिट है। DeepSeek R1 के सभी संस्करण मुफ्त में उपलब्ध हैं।
यहाँ क्या करना है:
- Ollama की आधिकारिक वेबसाइट से इंस्टॉलर डाउनलोड करें - विंडोज के लिए, यह लगभग 700 एमबी है।
- इंस्टॉलर चलाएं और इसे खत्म करने की प्रतीक्षा करें।
- स्थापना के बाद, ओलमा आइकन सिस्टम ट्रे में दिखाई देगा - एक निश्चित संकेत है कि सब कुछ काम कर रहा है।
Step 2 डाउनलोड DeepSeek R1
ओलामा वेबसाइट खोलें, पर जाएं मॉडल टैब, और DeepSeek R1 खोजें। कई संस्करण हैं, और विकल्प सीधे आपके हार्डवेयर पर निर्भर करता है:
- यदि आपके पास थोड़ी मात्रा में वीडियो मेमोरी है, तो एक छोटा मॉडल चुनें - यह VRAM सीमा नहीं मारेगा;
- यदि आउटपुट बहुत धीमा है, तो कम संस्करण का प्रयास करें;
- 7B संस्करण पहले रन के लिए सबसे लोकप्रिय और संतुलित विकल्प है।
मॉडल पेज पर, इंस्टॉल कमांड की प्रतिलिपि बनाएँ और फिर:
- ओपन पावरशेल, या विन + आर और टाइप प्रेस करें
cmd। - कमांड को टर्मिनल में पेस्ट करें और एंटर दबाएं।
- Ollama स्वचालित रूप से मॉडल को डाउनलोड और तैनात करेगा।
इसके तुरंत बाद आप सीधे कमांड लाइन से सवाल पूछ सकते हैं। जबकि मॉडल एक अनुरोध प्रक्रिया करता है, एक सोचना मार्कर आउटपुट में दिखाई देता है - यही कारण है कि इसका "आवास" जवाब देने से पहले जैसा दिखता है।
क्रम ३. ब्राउज़र इंटरफ़ेस जोड़ना
सांत्वना में चैट कार्यात्मक है, लेकिन यह जल्दी से पुराना हो जाता है - आप एक परिचित ChatGPT शैली संवाद चाहते हैं। क्रोम के लिए पेज असिस्ट एक्सटेंशन मदद करेगा। इसके लिए क्रोम वेब स्टोर में देखें - पहला खोज परिणाम होगा।
फिर इन चरणों का पालन करें:
- ब्राउज़र के शीर्ष बाएं कोने में पेज असिस्ट आइकन पर क्लिक करें।
- स्थापित मॉडल चुनें।
- सेटिंग्स (शीर्ष सही) में सक्षम आरएजी सेटिंग और एक मॉडल के लिए निर्दिष्ट एम्बेडिंग मॉडल।
- परिवर्तन सहेजें।
विस्तार में कुछ अच्छा बोनस भी है। नीचे के कोने में, आप वेब खोज को सक्षम कर सकते हैं - मॉडल इंटरनेट से ताजा डेटा खींचने में सक्षम होगा। यदि आपके पास कई मॉडल स्थापित हैं, तो आप आसानी से इंटरफ़ेस से उनके बीच स्विच कर सकते हैं।
नीचे पंक्ति
परिणाम एक पूर्ण-fledged ऑफ़लाइन चैट है: कोई देरी, बाहरी सेवाओं पर कोई निर्भरता नहीं, और एक सुविधाजनक ब्राउज़र इंटरफ़ेस। यह एक बार सेटअप पर थोड़ा समय बिताने लायक है - और मॉडल हमेशा हाथ में होगा।
