RepoRadar Vestige: безопасное ядро для AI-агентов с журналированием действий
Vestige — это безопасный локальный ядро для AI-агентов, позволяющее записывать все действия и причинно-следственные связи в защищённом журнале. Оно предотвращает случайные или вредоносные операции от AI, фиксируя каждую запись в памяти и каждое действие агента.
Проект решает задачу обеспечения безопасности взаимодействия AI с системами, где ошибки могут привести к серьёзным последствиям. Vestige отличается от стандартных фаерволов тем, что не только блокирует действия, но и детализирует, что и почему происходило, тем самым упрощая отладку. Этот инструмент будет полезен разработчикам AI, стремящимся ограничить и детализировать взаимодействие своих моделей с окружением.
Запускается Vestige на языке программирования, не требуя сторонних библиотек; используется в виде небольшого файла, который интегрируется с хуками команд. Однако полезно помнить, что полноценная версия имеет платный доступ, тогда как бесплатный вариант — Vestige Operator Lite — доступен для загрузки в репозитории. Подходит только для систем на основе Linux.
Проект **Vestige** — это система фаервола, созданная для защиты ИИ-агентов, работающая по принципу fail-closed. Она контролирует действия агентов, фиксирует каждую команду и позволяет отслеживать, что именно пошло не так при ошибках с помощью функции `causal_walk`.
Основная проблема, которую решает Vestige, заключается в том, что ИИ-агенты могут выполнять потенциально разрушительные команды (например, `rm -rf` или `force-push`), не имея ограничений на свои действия. При этом стандартные методы поиска виновных не помогают установить причины ошибок, а только находят аналогичные ситуации.
Как работает Vestige
Vestige включает в себя бесплатную версию **Operator Lite**, которая представляет собой один файл, использующий только стандартную библиотеку Python. Она устанавливается в среду, поддерживающую командные хуки (например, Claude Code или Codex). После установки, программа работает в "теневом режиме", фиксируя все действия и не блокируя их, что позволяет проанализировать предыдущие 30 дней истории работы агента.
Установка и запуск
Для быстрой установки используй следующие команды:
- Для macOS и Linux:
curl -fsSL https://raw.githubusercontent.com/samvallad33/vestige/main/operator-lite/operator-gate.py -o /tmp/operator-gate.py && python3 /tmp/operator-gate.py installcurl.exe -fsSL https://raw.githubusercontent.com/samvallad33/vestige/main/operator-lite/operator-gate.py -o "$env:TEMP\operator-gate.py"; python "$env:TEMP\operator-gate.py" installclawhub install vestige-operator-liteПосле установки, программа регистрирует хук для Claude Code и запускается в теневом режиме. Также доступна установка серверной части с помощью следующей команды:
curl -fsSL https://raw.githubusercontent.com/samvallad33/vestige/main/scripts/install.sh | shВозможности и ограничения
Vestige использует 27 детерминированных правил для контроля действий, включая защиту памяти и ограничения на выполняемые команды. Например, блокируются нежелательные операции, как `force-push` или удаления по команде `rm -rf`.
Обратите внимание, что блокируются только те действия, которые проходят через зарегистрированные инструменты. Светлое интерфейсы не предостерегает от прямых действий за пределами контролируемых хуков.
Заключение
Vestige предлагает уникальный подход к безопасности ИИ-агентов, фиксируя их действия и позволяя тебе контролировать их поведение. Чтобы обеспечить максимальную защиту, стоит обратить внимание на настройки и рекомендации в документации проекта.
Открыть на GitHub: samvallad33/vestige →
