RepoRadar Headroom: сжатие данных перед отправкой в LLM
Headroom — это инструмент для сжатия выходных данных и файлов перед их отправкой в LLM. Он позволяет сократить количество токенов на 20% для агентов кодирования и на 60-95% для JSON, сохраняя при этом корректность ответов.
Проект отличается от стандартных решений тем, что фокусируется именно на оптимизации передачи данных в модели, что может существенно снизить затраты на использование API и ускорить обработку запросов. Это может быть полезно разработчикам, создающим приложения с использованием языковых моделей, которым важно уменьшить расход токенов.
Headroom написан на Python и доступен как библиотека и прокси-сервер. Запустить его можно, следуя инструкции в разделе Quickstart README. Имей в виду, что проект находится на ранней стадии, поэтому могут быть некоторые ограничения и недоработки.
Headroom — это библиотека, которая сжимает все, что читает твой AI-агент (например, выходные данные инструментов, логи, фрагменты RAG, файлы и историю разговоров), прежде чем данные достигнут модели LLM. Это позволяет добиться таких же ответов при отправке меньшего количества токенов. Сжатие выполняется локально на твоей машине, без передачи содержимого запросов или файлов куда-либо для сжатия.
Что делает проект?
- Библиотека — `compress(messages)` на Python или TypeScript, интегрируется в любое приложение.
- Прокси — `headroom proxy --port 8787`, без изменений в коде, работает с любым языком.
- Обертывание агентов — `headroom wrap` для легкой интеграции с различными AI-агентами (например, Claude, Codex и другими).
- MCP сервер — предоставляет команды `headroom_compress`, `headroom_retrieve`, `headroom_stats` для любого клиента MCP.
- Кросс-агентская память — единое хранилище для Claude, Codex и Grok с автоматическим удалением дублированных данных.
- Обучение — `headroom learn` извлекает данные из неудачных сессий, чтобы улучшить последующие попытки.
Как установить и запустить
Установка и запуск Headroom выполняются всего в три шага:
# 1 — Установка
uv tool install --python 3.13 "headroom-ai[all]" # CLI в изолированной среде
pip install "headroom-ai[all]" # Python — включает CLI
npm install headroom-ai # Только TypeScript SDK (без CLI)
# 2 — Выбор режима
headroom deploy # Мгновенное локальное развертывание и настройка агента
headroom wrap claude # Обернуть агента Claude
headroom proxy --port 8787 # Прокси с нулевыми изменениями в коде
# или: from headroom import compress # Встроенная библиотека
# 3 — Проверка и мониторинг экономии
headroom doctor # Проверка работоспособности
headroom perf
headroom dashboard # Живые результаты экономии (прокси должен работать)
Ограничения
Headroom отлично подходит для долгих сессий с использованием агентов и позволяет сократить количество токенов, не меняя твой код. Однако, если ты работаешь только с одним провайдером и не нуждаешься в кросс-агентной памяти, возможно, этот проект не стоит использовать. Кроме того, работы в песочнице, где локальные процессы не могут выполняться, тоже могут быть невозможными.
Сохранение значительно зависит от типа данных: повторяющиеся массивы и логические строчки могут сжиматься до 90%, в то время как уже плотные данные могут почти не уменьшаться. Блоки менее размера `min_input_words` вернутся идентичными и никакого сжатия не произойдет. Подробный список ограничений можно найти в документации проекта.
Документация и поддержка
Чтобы узнать больше о проекте, можешь посетить официальную документацию или присоединиться к дискорд-сообществу для вопросов и обмена опытом.
Открыть на GitHub: headroomlabs-ai/headroom →
