Perplexity и Nvidia перенесли агента Computer на локальные GPU

Portable Computer переносит на локальную машину не только языковую модель, но и весь необходимый агентный контур: inference-движок, средства вызова инструментов, коннекторы приложений и защитную песочницу. Интерфейс повторяет облачный Perplexity Computer, который умеет разбирать документы, анализировать данные, готовить отчёты и передавать результат во внешние системы. Разница в том, что пользователю не нужно отдельно загружать веса, поднимать сервер инференса и вручную связывать его с инструментами.

Локальный режим выбран поведением по умолчанию. Каждая задача начинается на компьютере пользователя, а отдельный сложный шаг можно передать frontier-модели в облаке только после подтверждения. Работа, целиком завершённая на устройстве, не расходует биллинговые кредиты Perplexity. Это не делает эксплуатацию бесплатной — остаются стоимость оборудования и электроэнергии, — но устраняет переменную плату за токены и помогает заранее оценивать расходы на длинные агентные процессы.

В демонстрации агент на DGX Spark использовал 27-миллиардную Qwen и проверил папку с налоговыми формами 1099 и инвестиционными документами, выявляя лишние комиссии. Все чувствительные файлы обрабатывались локально, GPU работал с полной загрузкой, а счётчик облачных кредитов оставался на нуле. Другой сценарий показал гибридную схему: Portable Computer проанализировал CSV с воронкой продукта на устройстве, а затем отправил готовый результат в Slack.

Изоляция от облака при этом не абсолютная. Система умеет подключаться к Slack, Google Drive, Gmail и GitHub, поэтому фактическая граница данных зависит от выбранного сценария и разрешённых коннекторов. При недостатке возможностей локальной модели агент также может запросить эскалацию в облако. Такой подход оставляет пользователю контроль, но требует внимательно проверять каждый шаг, которому разрешена передача файлов или контекста во внешний сервис.

На старте можно установить Qwen 3.8 27B либо PPLX 27B — вариант, который Perplexity дополнительно обучила для работы со своим агентным harness. Позже ожидается Nvidia Nemotron 3.5 Lightning. Первой целевой платформой стал настольный суперкомпьютер DGX Spark, однако продукт также рассчитан на Linux-системы с Nvidia RTX, что заметно расширяет потенциальную аудиторию за пределы владельцев специализированной рабочей станции.