Ejecución local de agentes de IA: Perplexity y NVIDIA apuestan por el procesamiento de datos en el dispositivo

21 septiembre 202616 vistas

Las compañías presentaron Portable Computer, un entorno en el que los agentes, las herramientas y la ejecución de código funcionan en el propio hardware del usuario, y la transferencia de datos a la nube solo ocurre tras su consentimiento explícito. Por ahora, la solución está diseñada para Linux con GPU NVIDIA de al menos 24 GB de VRAM, incluida la DGX Spark, mientras que la compatibilidad con Windows está anunciada para una fecha posterior.

Ejecución local de agentes de IA: Perplexity y NVIDIA apuestan por el procesamiento de datos en el dispositivo

Qué anunciaron Perplexity y NVIDIA

Perplexity y NVIDIA presentaron Portable Computer. Es una herramienta de IA local para ejecutar agentes en el dispositivo.

  • Portable Computer ejecuta agentes de IA directamente en los dispositivos.
  • La herramienta ofrece un mayor control sobre los datos.
  • Requiere hardware potente de NVIDIA y soporte de Linux.
  • La portabilidad permite trabajar sin depender de servicios en la nube.
  • Se espera una versión para Windows.

La asociación refleja la tendencia hacia el procesamiento local de IA. Conclusión: Portable Computer es adecuado para el trabajo local, pero depende del hardware.

Cómo protege los datos el procesamiento local

La ejecución local reduce la necesidad de enviar datos a la nube. La información permanece en el dispositivo si la tarea no requiere servicios en la nube.

  • El dispositivo ejecuta código y utiliza diversas herramientas.
  • La aplicación solicita permiso para cargar en la nube.
  • El usuario elige si cargar los datos.
  • El enfoque es relevante para datos personales y profesionales.

Conclusión: el procesamiento local da control sobre los datos, pero no elimina la nube.

Requisitos de hardware y plataformas

Portable Computer requiere Linux. Se necesita una NVIDIA GPU con un mínimo de 24GB de VRAM.

  • Esta es la principal limitación de la herramienta.
  • La herramienta es adecuada para profesionales y usuarios de sistemas de gama alta.
  • Actualmente Portable Computer funciona en NVIDIA DGX Spark.
  • Pronto funcionará en NVIDIA RTX GPU PCs.
  • Se espera soporte para Windows.

Conclusión: para ejecutarlo se necesita hardware avanzado de NVIDIA. La herramienta está dirigida a usuarios con equipos para modelos exigentes.

Modelos y condiciones de acceso

El sistema admite varios modelos. El primer lanzamiento está disponible para suscriptores Pro y Max en NVIDIA DGX Spark.

  • Qwen 3.8 27B
  • PPLX 27B
  • NVIDIA Nemotron 3.5 Lightning aparecerá en la selección de modelos.

Conclusión: la selección de modelos ya existe, pero el acceso está limitado por suscripciones y hardware.

Ejecución local o nube: criterios de elección

La comparación entre los enfoques local y en la nube ayuda a elegir una estrategia. Portable Computer funciona en el dispositivo.

CriterioPortable ComputerServicios de IA tradicionales en la nube
Lugar de ejecución de las tareasEn el dispositivo del usuarioEn servidores en la nube
Control sobre los datosEl usuario elige la carga en la nubeLos servicios en la nube requieren la carga de datos
Requisitos de hardwareLinux, NVIDIA GPU, mínimo 24GB de VRAMAdecuados para usuarios sin hardware potente de NVIDIA
DisponibilidadSuscriptores Pro y Max en NVIDIA DGX Spark; primero LinuxMás amplia para usuarios sin hardware potente

Conclusión: para archivos confidenciales y hardware potente es adecuado Portable Computer. Para el resto, los servicios de IA en la nube son más prácticos.

Preguntas frecuentes

Material similar

Todos los materiales
Ejecución local de agentes de IA: Perplexity y NVIDIA apuestan por el procesamiento de datos en el dispositivo