Разработка

Caveman: как тратить меньше токенов на агента — разбор механики и замеров

FulcrumLab • 16.11.2026 • 9 мин чтения
Caveman: как тратить меньше токенов на агента — разбор механики и замеров
Разбираем Caveman: как локальное сжатие уменьшает то, что агент отправляет в модель, что показали замеры на логах, CSV и YAML, и в каких случаях инструмент проигрывает.

Ночная сборка упала. Вы открываете агента, кидаете лог на 22 тысячи строк и просите найти причину. Агент читает лог, потом читает его ещё раз вместе с выводом тестов, потом пересказывает, что собирается делать, и что сделал. К концу задачи в модель ушли сотни тысяч токенов, а сумму видно только в конце месяца.

Caveman ставит на пути этих данных сжатие, а ответам задаёт короткий формат. Основную экономию даёт первое: на шести типах рабочих файлов сессия Claude Code потратила на 33,2% меньше входных токенов при тех же правильных ответах. Второе экономит меньше, зато заметно сразу: в чате появляется строка с причиной и действием вместо трёх абзацев.

Проект вырос из шутки в апреле 2026 года, сейчас у него 120 тысяч звёзд на GitHub и первое место в Hacker News. Лицензия Apache-2.0, весь код открыт. Ниже — что внутри, какие числа подтверждены, а где инструмент проигрывает.

Из чего состоит инструмент

Caveman — это не один бинарник, а несколько слоёв, и включать их можно по отдельности. Понимание этой развилки экономит время: половина жалоб «поставил, а экономии нет» связана с тем, что человек поставил только стиль ответов, а сжатие входа не включил.

СлойЧто делаетНужен аккаунт
Скил и хукиПросит агента отвечать без воды, не трогая код и командыНет
CLIСтавит компоненты, запускает агента, показывает состояниеНет
Движок сжатияОпределяет тип данных и сжимает их перед отправкой в модельНет
Локальный проксиПропускает запросы агента через движок и пишет расход в локальную базуНет
Инструменты: MCP, память, браузер, сжатие вывода командОтдают агенту выжимки и возможность вернуть оригиналНет
SDK и middlewareДобавляют сжатие и маршрутизацию в код приложенияНет
Подключённые команды и CloudМаршрутизация модели, наблюдаемость, прогоны качестваДа

Важный принцип: локальный прокси слушает только петлевой интерфейс и ходит к провайдеру с вашим ключом. Запросы не проходят через чужой сервер, если вы сами не подключили маршрутизацию через облако.

Как работает сжатие

Агент во время задачи много раз отправляет в модель одно и то же: историю диалога, результаты инструментов, куски файлов, вывод тестов. Движок смотрит на содержимое и выбирает подходящий компрессор. В реестре по умолчанию 16 типов: JSON, логи, отчёты тестов, код, диффы, результаты поиска, текст, HTML, таблицы, конфиги, схемы инструментов, деревья доступности, повторяющиеся блоки, вывод терминала.

Дальше важная деталь, из-за которой сжатие не превращается в потерю данных. Перед тем как показать модели короткую версию, движок складывает точные исходные байты в локальное хранилище и прикладывает к выжимке идентификатор. Агент может в любой момент запросить оригинал. Если файл не распознан, хранилище недоступно или выжимка вышла не меньше исходника, движок возвращает файл как есть и ничего не обещает.

Хранилище по умолчанию ограничено 512 МиБ, лимит меняется переменной окружения. Когда место кончается, движок сначала пытается освободить его за счёт дублей и старых сессий, а если не выходит — отдаёт оригинал без сжатия.

Что показали замеры

Авторы сравнивали два режима Claude Code на шести фикстурах размером 60–95 КБ: логи, JSON деплоя, CSV с мошенническими транзакциями, вывод тестов, YAML конфига и HTML-дашборд. По три прогона на каждую сторону, всего 54 запуска. Считались реальные счётчики провайдера, а не локальная оценка токенизатора.

СлучайБез CavemanС CavemanЭкономияОтветы
Лог с одной нужной строкой148 80774 06850,2%3 из 3
CSV с выбросом165 82374 48455,1%3 из 3
YAML с расхождением132 12471 02746,2%3 из 3
Вывод упавших тестов150 377108 51427,8%3 из 3
JSON деплоя147 975108 93926,4%3 из 3
HTML-дашборд140 687154 641−9,9%3 из 3
Итого885 793591 67333,2%18 из 18

Доверительный интервал по случаям — от 14,6% до 48,5%. В том же прогоне участвовал конкурент Headroom: 703 202 токена, 6,7% экономии, но три прогона на YAML не прошли проверку точного ответа, поэтому в зачёт им не пошли.

Строка с HTML честно остаётся минусовой: компрессора для этого типа в тот момент не было, а накладные расходы скила считались. То есть инструмент не «всегда экономит», а экономит там, где данные подходят под компрессор.

Короткие ответы: меньше, чем кажется

Стиль ответов живёт по правилам, похожим на язык технических инструкций для авиации: сначала вывод, потом причина и следующий шаг, не больше 20 слов в предложении, один термин на одну вещь. Код, команды, пути и текст ошибок копируются посимвольно. Отрицания, числа и единицы измерения не сокращаются. Предупреждения о безопасности и необратимых действиях получают полные предложения.

Замер на десяти вопросах разработчика к модели claude-opus-5-5:

ИнструкцияТокенов в ответах
Без инструкции6 983
«Отвечай кратко»4 334
Режим caveman4 119
Режим ultracave2 693

Baseline здесь — не пустой чат, а «отвечай кратко»: современные модели и так умеют сжимать ответ, если их попросить. На этом фоне обычный режим даёт 3% медианной экономии, жёсткий — 35%. Сами правила стоят около 1 160 входных токенов, а на задачах с короткими вопросами и ответами эти расходы могут перевесить экономию. В репозитории это записано прямым текстом, включая случаи, где пользователи получили убыток.

Внешние прогоны дают ту же картину: JetBrains на 86 реальных задачах получила на 8,5% меньше выходных токенов и не нашла потери качества (p = 0,82), а независимый тест LemonCrow — минус 44,1% выходных токенов при общем счёте плюс 0,06%.

Страницы и файлы памяти

Отдельный режим сжимает веб-страницы перед тем, как отдать их агенту. Замер на таблице заказов из 200 строк:

ПредставлениеТокенов
Полное дерево доступности Chrome398 494
ARIA-снимок Playwright15 704
Caveman, вся страница13 368
Caveman, только нужная запись121

На большой странице выигрыш в 129,8 раза против Playwright. На маленькой форме всё наоборот: 157 токенов против 67 у Playwright, потому что служебные поля и идентификаторы действий стоят дороже, чем сама разметка. Режим рассчитан на предсказуемые страницы одной области; всплывающие окна, скачивания и произвольные сайты пока вне зоны работы.

Ещё один скил сжимает файлы памяти проекта, которые агент читает в каждой сессии. На пяти файлах вышло 4 138 токенов вместо 6 198 — от 22,8% до 49,1% на каждый файл, заголовки, блоки кода и пути остались на месте.

Что ещё внутри

  • Автовыбор модели. На простой запрос уходит модель полегче и с меньшим усилием. На 85 задачах из SWE-Interact и SWE-Together режим дал 0,46 цены Opus 5.5 при том же числе решённых: 43,7% против 44,3%. Прогон был недоделан, разница в 0,6 балла лежит внутри погрешности ±7, а большая часть экономии приходится на снижение усилия на лёгких задачах. Нужен бесплатный аккаунт.
  • Тёплый кэш. Пока вы отошли, провайдер забывает контекст, и следующий запрос оплачивается по полной. Caveman поддерживает кэш Anthropic тёплым, если по вашей истории видно, что вы вернётесь. Каждый такой прогрев виден в статистике. Эффект не измерен.
  • Сжатие вывода команд. Отдельная команда прогоняет шумный вывод тестов или сборки через компрессор до того, как он попадёт в чат.
  • Разбор расходов. Команда, которая по локальной истории агента показывает, куда уходят токены, и предлагает правки по одной с подтверждением.
  • Субагенты и рабочие шаблоны. Набор ролей для поиска, правки и ревью кода, плюс шаблоны вроде «сначала разберись, потом меняй» и «минимальный патч».
  • Middleware. Сжатие можно вставить в приложение на Vercel AI SDK, LangChain, OpenAI или Anthropic — как библиотеку, без прокси.
  • Cloud для своих агентов. Наблюдаемость прогонов, оценка качества на своём трафике и автоподбор более дешёвой конфигурации с проверкой, что ответы не стали хуже.

Отдельно стоит сказать про режим, который в README подан как «код-режим»: агент сохраняет написанные скрипты и переиспользует их, чтобы не писать одно и то же каждую сессию. Фича реальная, но статус — pre-release: только Python, без песочницы, отдельный репозиторий. В продакшн-планы её закладывать рано.

Установка и первый запуск

Нужен Node.js 22.13 или новее. Дальше одна команда:

npx @caveman-ai/cli@latest

Установщик находит поддерживаемых агентов, для каждого запускает его родной способ установки, добавляет хуки и статус-строку, показывает список изменений и ждёт подтверждения. Занимает около тридцати секунд, повторный запуск безопасен. Хуки проверяются по контрольным суммам из того же тега релиза: если файл не скачался или не совпал, хуки не ставятся и настройки остаются прежними. Предпросмотр без изменений — флаг --dry-run.

Дальше агент запускается через обёртку, и меняется только адрес провайдера для этого процесса:

caveman claude
caveman status

Первая команда стартует Claude Code через локальный прокси, вторая показывает, какие части включены и до каких агентов инструмент дотягивается. Профили запуска есть для Claude Code, Codex, Gemini CLI, Aider, Hermes, OpenClaw и opencode; установщик умеет ставить интеграции и в другие среды, включая Cursor.

Если нужны только короткие ответы, рантайм не обязателен:

npx skills add JuliusBrussee/caveman -g

Где экономии не будет

Об этом стоит прочитать до установки, потому что обещание «минус 33%» относится к конкретному сценарию, а не к любому счёту.

СитуацияЧто происходит
Оплата за запросы, а не за токены (например, Copilot)Короткий ответ — тот же запрос, цена не меняется
Короткие вопросы и ответыПравила стиля добавляют входных токенов больше, чем экономят на выходе
Повторная вставка правил и промахи кэшаИтог может уйти в минус: один A/B в Cursor показал 4,3 млн токенов против 1 млн, но прогон не воспроизвели
HTML и нестандартные форматыКомпрессора нет, файл идёт как есть, накладные расходы остаются
Маленькие страницыСлужебные поля дороже разметки, Playwright дешевле

Ещё две оговорки по числам. Локальные оценки движка помечены как расчётные: он считает токены офлайн-токенизатором, а не счётчиком провайдера, и сам автор не выдаёт их за счёт из квитанции. Отчёт с 33,2% собран на реальных счётчиках Claude Code, но сырые артефакты прогона в репозитории не опубликованы, поэтому результат скорее зафиксированный отчёт, чем публичный воспроизводимый бенчмарк.

Приватность

Скил работает локально и ничего не отправляет. Исключение — сжатие файла памяти: файл уходит вашему провайдеру модели, как и любой другой запрос.

CLI по умолчанию собирает телеметрию: какие команды запускали, количество токенов, случайный идентификатор установки, ОС и IP. Промпты, код, пути и написанные скрипты не отправляются. Отключается одной командой или переменной окружения DO_NOT_TRACK=1.

Автовыбор модели отправляет в облако последний запрос вместе с приложенными файлами, предыдущий запрос и конец прошлого ответа. Это работает только после входа в аккаунт и включения режима, отключается отдельно. Локальный прокси при этом пишет расход в базу на диске и ходит к провайдеру с вашим ключом.

Кому это подходит

Инструмент окупается там, где агент подолгу работает с объёмными данными: логи, выгрузки, таблицы, отчёты тестов, повторные чтения истории. Если вы платите за токены и гоняете длинные сессии в Claude Code, Codex или OpenCode, сжатие входа даёт измеримый эффект, а разбор расходов показывает, где ещё есть запас.

Если у вас короткие точечные вопросы, оплата за запросы или работа в основном с HTML, выгоды не будет, и это нормальный повод не ставить инструмент. Для своих приложений есть middleware и облако с оценкой качества, но это уже отдельный сценарий — не про экономию на чате.

Итог

Caveman решает узкую, но дорогую задачу: сокращает то, что агент отправляет в модель, и держит под рукой оригинал для восстановления. Числа из замера — 33,2% входных токенов на шести типах файлов, 18 верных ответов из 18, 50–55% на логах и CSV — относятся к конкретному набору данных. Стиль ответов даёт меньше, зато виден сразу и не требует прокси.

Ставить стоит, если счёт за токены уже мешает работать. Начать проще всего с одной команды установки и проверки состояния, а через неделю посмотреть на свою статистику: она покажет, сколько сжатие сэкономило именно на ваших задачах.

Репозиторий: github.com/JuliusBrussee/caveman

Готовы внедрить ИИ в свой бизнес?

Превратите идеи в действия. Получите персональные рекомендации по внедрению искусственного интеллекта и начните трансформацию уже сегодня.