Perplexity ra mắt runtime cho local AI agent trên Nvidia DGX Spark, đạt 73% điểm benchmark

Portable Computer là một stack local AI agent mới, cho phép chạy toàn bộ runtime — bao gồm LLM điều phối, LLM subagent và agent harness — ngay trên thiết bị bằng Nvidia DGX Spark. Hệ thống này dành cho người dùng đăng ký gói Perplexity Pro và Max, hỗ trợ ban đầu các mô hình PPLX 27B (đã qua post-training) và Qwen 3.8 27B. Nền tảng này cho phép thiết lập local inference chỉ với một cú nhấp chuột, giúp loại bỏ sự phụ thuộc vào cloud cho các workflow agentic tiêu chuẩn.

Hệ thống sử dụng mô hình inference hybrid: các tác vụ suy luận phức tạp sẽ được chuyển lên các mô hình frontier trên cloud sau khi người dùng phê duyệt thủ công và đã qua lọc PII. Cách tiếp cận này giúp nâng điểm Terminal Bench 2.1 từ 59,6% lên 73,0% với chi phí 0,415 USD cho mỗi lần triển khai. Perplexity cũng có kế hoạch hỗ trợ Nvidia Nemotron 3.5 Lightning, đồng thời giới hạn các mô hình từ xa chỉ được trả về kết quả dạng văn bản...