Локальный запуск ИИ-агентов: Perplexity и NVIDIA делают ставку на обработку данных на устройстве

21 сентября 202616 просмотров

Компании представили Portable Computer — среду, в которой агенты, инструменты и исполнение кода работают на собственном железе пользователя, а передача сведений в облако происходит только после его явного согласия. Пока решение рассчитано на Linux с GPU NVIDIA объёмом от 24 ГБ VRAM, включая DGX Spark, тогда как поддержка Windows заявлена на более поздний срок.

Локальный запуск ИИ-агентов: Perplexity и NVIDIA делают ставку на обработку данных на устройстве

Что анонсировали Perplexity и NVIDIA

Perplexity и NVIDIA представили Portable Computer. Это локальный AI-инструмент для запуска агентов на устройстве.

  • Portable Computer запускает AI-агентов напрямую на устройствах.
  • Инструмент даёт больший контроль над данными.
  • Он требует мощного оборудования NVIDIA и поддержки Linux.
  • Портативность позволяет работать без опоры на облачные сервисы.
  • Версия для Windows ожидается.

Партнёрство отражает тренд к локальной AI-обработке. Вывод: Portable Computer подходит для локальной работы, но зависит от оборудования.

Как локальная обработка защищает данные

Локальный запуск снижает необходимость отправлять данные в облако. Информация остаётся на устройстве, если задача не требует облачных сервисов.

  • Устройство выполняет код и использует различные инструменты.
  • Приложение запрашивает разрешение на загрузку в облако.
  • Пользователь выбирает, загружать ли данные.
  • Подход актуален для персональных и профессиональных данных.

Вывод: локальная обработка даёт контроль над данными, но не отменяет облако.

Требования к оборудованию и платформам

Portable Computer требует Linux. Нужен NVIDIA GPU с минимум 24GB VRAM.

  • Это основное ограничение инструмента.
  • Инструмент подходит профессионалам и пользователям высококлассных систем.
  • Сейчас Portable Computer работает на NVIDIA DGX Spark.
  • Вскоре он будет работать на NVIDIA RTX GPU PCs.
  • Поддержка Windows ожидается.

Вывод: для запуска нужно продвинутое оборудование NVIDIA. Инструмент нацелен на пользователей с оборудованием для требовательных моделей.

Модели и условия доступа

Система поддерживает несколько моделей. Первый релиз доступен подписчикам Pro и Max на NVIDIA DGX Spark.

  • Qwen 3.8 27B
  • PPLX 27B
  • NVIDIA Nemotron 3.5 Lightning появится в выборе моделей.

Вывод: выбор моделей уже есть, но доступ ограничен подписками и оборудованием.

Локальный запуск или облако: критерии выбора

Сравнение локального и облачного подходов помогает выбрать стратегию. Portable Computer работает на устройстве.

КритерийPortable ComputerТрадиционные облачные AI-сервисы
Место выполнения задачНа устройстве пользователяНа облачных серверах
Контроль над даннымиПользователь выбирает загрузку в облакоОблачные сервисы требуют загрузки данных
Требования к оборудованиюLinux, NVIDIA GPU, минимум 24GB VRAMПодходят пользователям без мощного оборудования NVIDIA
ДоступностьПодписчики Pro и Max на NVIDIA DGX Spark; сначала LinuxШире для пользователей без мощного оборудования

Вывод: для конфиденциальных файлов и мощного оборудования подходит Portable Computer. Для остальных практичнее облачные AI-сервисы.

Часто задаваемые вопросы

Похожие материалы

Все материалы
Portable Computer: локальные ИИ-агенты Perplexity и NVIDIA