स्थानीय AI एजेंट चलाना: Perplexity और NVIDIA डिवाइस पर डेटा प्रोसेसिंग पर दांव लगा रहे हैं

21 सितम्बर 202616 बार देखा गया

कंपनियों ने Portable Computer पेश किया — एक ऐसा वातावरण जिसमें एजेंट, टूल्स और कोड निष्पादन उपयोगकर्ता के अपने हार्डवेयर पर चलते हैं, और क्लाउड में जानकारी का स्थानांतरण केवल उसकी स्पष्ट सहमति के बाद होता है। फ़िलहाल यह समाधान Linux के साथ 24 GB VRAM या उससे अधिक वाले NVIDIA GPU के लिए है, जिसमें DGX Spark भी शामिल है, जबकि Windows के लिए समर्थन बाद की तारीख में घोषित किया गया है।

स्थानीय AI एजेंट चलाना: Perplexity और NVIDIA डिवाइस पर डेटा प्रोसेसिंग पर दांव लगा रहे हैं

Perplexity और NVIDIA ने क्या घोषित किया

Perplexity और NVIDIA ने Portable Computer पेश किया। यह डिवाइस पर एजेंट चलाने के लिए एक लोकल AI-टूल है।

  • Portable Computer AI-एजेंट को सीधे डिवाइस पर चलाता है।
  • यह टूल डेटा पर अधिक नियंत्रण देता है।
  • इसके लिए शक्तिशाली NVIDIA हार्डवेयर और Linux सपोर्ट आवश्यक है।
  • पोर्टेबिलिटी क्लाउड सेवाओं पर निर्भरता के बिना काम करने देती है।
  • Windows के लिए वर्शन अपेक्षित है।

यह साझेदारी लोकल AI-प्रोसेसिंग की ओर रुझान दर्शाती है। निष्कर्ष: Portable Computer लोकल काम के लिए उपयुक्त है, लेकिन हार्डवेयर पर निर्भर है।

लोकल प्रोसेसिंग डेटा की सुरक्षा कैसे करती है

लोकल रनिंग क्लाउड में डेटा भेजने की आवश्यकता कम करती है। यदि कार्य के लिए क्लाउड सेवाओं की ज़रूरत न हो, तो जानकारी डिवाइस पर ही रहती है।

  • डिवाइस कोड चलाता है और विभिन्न टूल का उपयोग करता है।
  • ऐप क्लाउड पर अपलोड करने की अनुमति मांगता है।
  • उपयोगकर्ता चुनता है कि डेटा अपलोड करना है या नहीं।
  • यह तरीका व्यक्तिगत और पेशेवर डेटा के लिए उपयुक्त है।

निष्कर्ष: लोकल प्रोसेसिंग डेटा पर नियंत्रण देती है, लेकिन क्लाउड को खत्म नहीं करती।

हार्डवेयर और प्लेटफ़ॉर्म की आवश्यकताएँ

Portable Computer के लिए Linux आवश्यक है। कम से कम 24GB VRAM वाला NVIDIA GPU चाहिए।

  • यह टूल की मुख्य सीमा है।
  • यह टूल पेशेवरों और हाई-एंड सिस्टम वाले उपयोगकर्ताओं के लिए उपयुक्त है।
  • अभी Portable Computer NVIDIA DGX Spark पर चलता है।
  • जल्द ही यह NVIDIA RTX GPU PCs पर चलेगा।
  • Windows सपोर्ट अपेक्षित है।

निष्कर्ष: चलाने के लिए उन्नत NVIDIA हार्डवेयर चाहिए। यह टूल ऐसे उपयोगकर्ताओं के लिए है जिनके पास मांगलिक मॉडल के लिए हार्डवेयर है।

मॉडल और एक्सेस की शर्तें

सिस्टम कई मॉडल का समर्थन करता है। पहला रिलीज़ NVIDIA DGX Spark पर Pro और Max सब्सक्राइबर के लिए उपलब्ध है।

  • Qwen 3.8 27B
  • PPLX 27B
  • NVIDIA Nemotron 3.5 Lightning मॉडल चयन में जल्द आएगा।

निष्कर्ष: मॉडल का चयन पहले से है, लेकिन एक्सेस सब्सक्रिप्शन और हार्डवेयर तक सीमित है।

लोकल रनिंग या क्लाउड: चुनाव के मानदंड

लोकल और क्लाउड तरीकों की तुलना रणनीति चुनने में मदद करती है। Portable Computer डिवाइस पर चलता है।

मानदंडPortable Computerपारंपरिक क्लाउड AI-सेवाएँ
कार्य निष्पादन का स्थानउपयोगकर्ता के डिवाइस परक्लाउड सर्वर पर
डेटा पर नियंत्रणउपयोगकर्ता क्लाउड पर अपलोड करना चुनता हैक्लाउड सेवाएँ डेटा अपलोड करने की मांग करती हैं
हार्डवेयर की आवश्यकताएँLinux, NVIDIA GPU, कम से कम 24GB VRAMशक्तिशाली NVIDIA हार्डवेयर के बिना उपयोगकर्ताओं के लिए उपयुक्त
उपलब्धताNVIDIA DGX Spark पर Pro और Max सब्सक्राइबर; पहले Linuxशक्तिशाली हार्डवेयर के बिना उपयोगकर्ताओं के लिए व्यापक

निष्कर्ष: गोपनीय फ़ाइलों और शक्तिशाली हार्डवेयर के लिए Portable Computer उपयुक्त है। बाकी के लिए क्लाउड AI-सेवाएँ अधिक व्यावहारिक हैं।

अक्सर पूछे जाने वाले प्रश्न

समान सामग्री

सभी सामग्री
स्थानीय AI एजेंट चलाना: Perplexity और NVIDIA डिवाइस पर डेटा प्रोसेसिंग पर दांव लगा रहे हैं