Menjalankan agen AI secara lokal: Perplexity dan NVIDIA bertaruh pada pemrosesan data di perangkat

21 September 202616 tampilan

Perusahaan memperkenalkan Portable Computer — lingkungan tempat agen, alat, dan eksekusi kode berjalan di perangkat keras milik pengguna sendiri, dan transfer data ke cloud hanya terjadi setelah persetujuan eksplisit dari pengguna. Saat ini solusi ini ditujukan untuk Linux dengan GPU NVIDIA berkapasitas minimal 24 GB VRAM, termasuk DGX Spark, sementara dukungan Windows dijanjikan untuk waktu yang lebih lama.

Menjalankan agen AI secara lokal: Perplexity dan NVIDIA bertaruh pada pemrosesan data di perangkat

Apa yang diumumkan Perplexity dan NVIDIA

Perplexity dan NVIDIA memperkenalkan Portable Computer. Ini adalah alat AI lokal untuk menjalankan agen di perangkat.

  • Portable Computer menjalankan agen AI langsung di perangkat.
  • Alat ini memberikan kontrol lebih besar atas data.
  • Alat ini memerlukan perangkat keras NVIDIA yang kuat dan dukungan Linux.
  • Portabilitasnya memungkinkan bekerja tanpa bergantung pada layanan cloud.
  • Versi untuk Windows sedang ditunggu.

Kemitraan ini mencerminkan tren menuju pemrosesan AI lokal. Kesimpulan: Portable Computer cocok untuk kerja lokal, tetapi bergantung pada perangkat keras.

Bagaimana pemrosesan lokal melindungi data

Menjalankan secara lokal mengurangi kebutuhan mengirim data ke cloud. Informasi tetap berada di perangkat jika tugas tidak memerlukan layanan cloud.

  • Perangkat menjalankan kode dan menggunakan berbagai alat.
  • Aplikasi meminta izin untuk mengunggah ke cloud.
  • Pengguna memilih apakah akan mengunggah data.
  • Pendekatan ini relevan untuk data pribadi dan profesional.

Kesimpulan: pemrosesan lokal memberikan kontrol atas data, tetapi tidak menghilangkan cloud.

Persyaratan perangkat keras dan platform

Portable Computer memerlukan Linux. Dibutuhkan NVIDIA GPU dengan minimal 24GB VRAM.

  • Ini adalah batasan utama alat ini.
  • Alat ini cocok untuk profesional dan pengguna sistem kelas atas.
  • Saat ini Portable Computer berjalan di NVIDIA DGX Spark.
  • Sebentar lagi alat ini akan berjalan di NVIDIA RTX GPU PCs.
  • Dukungan Windows sedang ditunggu.

Kesimpulan: untuk menjalankannya diperlukan perangkat keras NVIDIA yang canggih. Alat ini ditujukan untuk pengguna dengan perangkat keras untuk model yang menuntut.

Model dan ketentuan akses

Sistem ini mendukung beberapa model. Rilis pertama tersedia untuk pelanggan Pro dan Max di NVIDIA DGX Spark.

  • Qwen 3.8 27B
  • PPLX 27B
  • NVIDIA Nemotron 3.5 Lightning akan hadir dalam pilihan model.

Kesimpulan: pilihan model sudah tersedia, tetapi aksesnya terbatas pada langganan dan perangkat keras.

Menjalankan secara lokal atau cloud: kriteria pemilihan

Perbandingan pendekatan lokal dan cloud membantu memilih strategi. Portable Computer berjalan di perangkat.

KriteriaPortable ComputerLayanan AI cloud tradisional
Tempat pelaksanaan tugasDi perangkat penggunaDi server cloud
Kontrol atas dataPengguna memilih unggahan ke cloudLayanan cloud memerlukan unggahan data
Persyaratan perangkat kerasLinux, NVIDIA GPU, minimal 24GB VRAMCocok untuk pengguna tanpa perangkat keras NVIDIA yang kuat
KetersediaanPelanggan Pro dan Max di NVIDIA DGX Spark; awalnya LinuxLebih luas untuk pengguna tanpa perangkat keras yang kuat

Kesimpulan: untuk file rahasia dan perangkat keras yang kuat, Portable Computer cocok. Untuk lainnya, layanan AI cloud lebih praktis.

Pertanyaan yang sering ditanyakan

Menjalankan agen AI secara lokal: Perplexity dan NVIDIA bertaruh pada pemrosesan data di perangkat