Perplexity собрала локального ИИ-агента: где закончился счет за токены

Portable Computer держит модель, файлы, инструменты и песочницу на вашем устройстве, а в облако идет только с разрешения. Считаю цену железа, качество гибридного режима и риск утечки данных.

Коллеги, локальные модели давно умеют отвечать в чате. Но настоящий агент - это еще оркестратор, инструменты, индекс файлов, очередь задач и песочница. Обычно все это приходится собирать руками, поэтому я полез смотреть на Portable Computer от Perplexity: компания упаковала весь набор в одно приложение.

Главная идея мне нравится: приватное и массовое гоняем на своем железе, сложное отправляем сильной модели в облако только после подтверждения. Но надпись «без затрат на токены» легко понять неправильно. Счет не исчез, он переехал в подписку, видеокарту, электричество и редкие облачные вызовы.

Что случилось

25 августа Perplexity вместе с Nvidia представила Portable Computer. Это локальная версия агента Perplexity Computer: модель, планировщик, маршрутизатор инструментов, очередь задач и поисковый индекс работают на устройстве. Локальная работа не расходует кредиты Perplexity.

Первый релиз рассчитан на Linux и Nvidia DGX Spark. Внутри можно выбрать Qwen 3.8 27B или PPLX 27B - дообученную Perplexity версию той же модели. Nemotron 3.5 Lightning на 30 млрд параметров обещают добавить позже.

С поддержкой обычных RTX источники расходятся. Perplexity и Nvidia пишут, что она появится скоро. VentureBeat сообщает о Linux-машинах с RTX и минимум 24 ГБ VRAM уже на старте. Я бы не покупал видеокарту под этот продукт, пока установщик не покажет поддержку вашей модели.

Perplexity и Nvidia собрали локального агента вокруг DGX Spark
Логотипы Perplexity и Nvidia в анонсе Portable Computer
Источник иллюстрации: Nvidia
Что осталось на устройстве
  • Модель и инференс. Qwen или PPLX запускаются локально, а не через внешний API.

  • Файлы и индекс. Агент читает документы и код, ищет по ним и не обязан загружать исходники в облако.

  • Оркестратор. Планировщик, маршрутизация инструментов, очередь и память задачи живут рядом с моделью.

  • Инструменты. Агент может работать с файлами и запускать действия в изолированной песочнице.

  • Голос. По описанию Perplexity, диктовка на Nemotron 3.5 ASR тоже идет локально: аудио не отправляется в облако.

А вот поиск свежей информации, браузер, подключенные приложения и сложное рассуждение могут потребовать облака. Portable Computer умеет обратиться к Perplexity Search или одной из 15+ внешних моделей, но сначала должен показать запрос и спросить разрешение.

Цифры: локально дешевле, но слабее

Самый понятный расклад Perplexity показала в исследовании локального агента на Terminal Bench 2.1. Полностью локальный Qwen набрал 59,6% при почти нулевой предельной цене задачи. Гибрид с советом Claude Opus 5 поднялся до 73,0% и стоил около $0,415 за задачу. Одна облачная модель дала 82,4% за $0,65.

Это внутренний тест Perplexity, а не независимый аудит. Он не доказывает, что любая ваша задача будет стоить столько же. Зато хорошо показывает форму компромисса: локальный агент забирает дешевую рутину, облако возвращает часть качества, но полный уровень фронтир-модели не догоняет.

Цена задачи в Terminal Bench 2.1 по внутреннему тесту Perplexity
Сравнение стоимости одной задачи: облако 0,65 доллара, гибрид 0,415 доллара, локальный режим около нуля
Источник иллюстрации: VentureBeat по данным Perplexity
Почему схема стала рабочей именно сейчас

Маленькую модель нельзя просто поставить вместо большой и оставить тот же агентный каркас. По данным Perplexity, которые приводит VentureBeat, Qwen с заявленным контекстом 260 тыс. токенов начинает заметно сдавать после 100 тыс. Поэтому компания сократила системный промпт, оставила мало базовых инструментов, а остальные возможности подгружает как навыки только по необходимости.

Даже коннекторы переделали: вместо тяжелых MCP-серверов сделали компактные командные инструменты. Это важнее самого выбора модели. Локальный агент выигрывает не потому, что 27 млрд параметров внезапно стали фронтиром, а потому, что им перестали скармливать весь сарай сразу.

⚠️
Что здесь легко пропустить

Кнопка подтверждения не делает облачный шаг приватным. По описанию VentureBeat, перед отправкой система проверяет контекст классификатором персональных данных и показывает, что уйдет наружу, но решение все равно принимаете вы. Коннекторы Gmail, Google Drive, Slack и GitHub тоже ведут к внешним сервисам. Поэтому правило простое: если в показанном фрагменте есть договор, секрет, ключ или данные клиента - облачную эскалацию отменяем и дробим задачу.

Считаем входной билет на живом примере

Официальная цена DGX Spark сейчас - $4 699 в магазине Nvidia. В феврале Nvidia подняла ее с $3 999 из-за дефицита памяти. Добавляем обязательную подписку Perplexity и электричество - значит «нулевая цена» относится только к следующей локальной задаче, а не ко всей системе.

расчет окупаемости по Terminal Bench
полностью локально:
$4 699 / $0.65 = 7 229 задач

гибрид вместо одного облака:
$4 699 / ($0.65 - $0.415) = 19 996 задач

Это не прогноз окупаемости бизнеса, а проверка масштаба. Если покупать DGX Spark только ради экономии на тестовых задачах, нужны тысячи и десятки тысяч запусков. Если подходящая Nvidia уже стоит под столом, стоимость железа в формуле становится нулевой - и локальный режим начинает экономить сразу после появления поддержки вашей RTX.

Что я делаю у себя, и вам советую
  • Разделите задачи на три корзины. Приватные документы и повторяющуюся обработку оставляем локально. Свежий веб-поиск отправляем наружу без секретов. Сложное рассуждение эскалируем только с очищенным контекстом.

  • Не покупайте железо по заголовку. Сначала посчитайте число задач в месяц и реальную облачную цену одной задачи. Если окупаемость измеряется годами, аренда или API пока честнее.

  • Проверяйте окно отправки. Не жмите «разрешить» на автомате. Удалите имена клиентов, ключи, внутренние ссылки и куски договоров, которые внешней модели не нужны.

  • Оставьте журнал границы. Записывайте, какая часть задачи ушла в облако, в какую модель и кто подтвердил отправку. Иначе приватность останется красивой настройкой без проверки.

  • Тестируйте на своей работе. Возьмите 20 одинаковых задач, сравните локальный, гибридный и облачный ответы, а потом считайте цену только для приемлемого качества.

Частые вопросы
  • Portable Computer бесплатный? Локальные задачи не расходуют кредиты, но нужна подписка Perplexity и подходящее железо.

  • Все работает без интернета? Локальные файлы и инструменты - да. Свежий поиск, облачные модели и коннекторы требуют сети.

  • Данные точно не покинут компьютер? Пока задача полностью локальная - по заявлению Perplexity, да. При облачной эскалации выбранный контекст уходит наружу после вашего разрешения.

  • Подойдет любая видеокарта Nvidia? Нет. VentureBeat называет минимум 24 ГБ VRAM, но официальные страницы пока обещают поддержку RTX позже. Проверяйте совместимость перед покупкой.

  • Локальная модель заменит фронтирную? Пока нет. В опубликованном тесте она заметно дешевле, но и слабее; гибрид закрывает только часть разрыва.

Для меня Portable Computer интересен не как еще одна локальная модель, а как готовая граница: сначала свое железо, потом осознанный выход в облако. Главный вопрос теперь не «локально или облако», а какой конкретно кусок задачи имеет право пересечь эту границу. Что вы бы оставили на своем компьютере первым - код, документы или почту?

Помогу посчитать локальный контур для вашего агента

Подписаться на @kursorai