RepoRadar CliRelay: шлюз для управления AI-инструментами через командную строку
CliRelay — это самохостинговый шлюз для AI-инструментов командной строки, который объединяет несколько подписок на OpenAI, Claude, Gemini и Codex в одну точку доступа.
Проект позволяет удобно управлять доступом и использованием различных AI API через единый интерфейс, обеспечивая многоарендный веб-консоль с логированием запросов и контролем расходов. Это будет полезно командам разработчиков, которые используют несколько AI инструментов и хотят централизовать управление ими без необходимости менять архитектуру своих приложений или создавать дополнительные интеграции.
CliRelay написан на Go, и его можно запустить, следуя инструкциям в документации. Учти, что проект находится на ранней стадии, и вам понадобятся свои ключи API для каждого интегрируемого сервиса. Подходит для использования в средах, где требуется высокопроизводительное управление запросами к AI.
CliRelay — это прокси-сервер для AI-инструментов командной строки, который позволяет использовать существующие подписки с любыми клиентами, совместимыми с OpenAI, Gemini, Claude и другими. Этот проект предназначен для управления AI CLI подписками, OAuth-данными и API-ключами через единый интерфейс. Он автоматически обрабатывает такие задачи, как маршрутизация запросов, контроль квот, ведение логов и поддержка генерации изображений.
Проект создан для многоарендного использования, что позволяет нескольким пользователям работать с общими ресурсами. Каждому пользователю можно настроить свои ключи API и отслеживать использование без вмешательства администратора. В качестве хранилища данных используется PostgreSQL для хранения основной информации и Redis для кэширования и управления состоянием.
Как установить и запустить
CliRelay наилучшим образом устанавливается с помощью Docker Compose. Включенный docker-compose.yml запускает CliRelay, PostgreSQL и Redis. После первого запуска создастся файл .env, в который запишутся все необходимые секреты и настройки. Ниже приведены команды для установки:
git clone https://github.com/kittors/CliRelay.git
cd CliRelay
docker compose up -d
После первого старта редактируй сгенерированный файл config.yaml, чтобы добавить свои ключи API или OAuth-данные, и перезапусти сервис:
docker compose restart cli-proxy-api
По умолчанию клиентские маршруты API требуют ключ API. Для работы без ключей можно настроить разрешение неаутентифицированных запросов в файле конфигурации, но это не рекомендуется для продакшн-среды.
Ключевые возможности
- Единый интерфейс: Один адрес API для работы с различными поставщиками AI-инструментов.
- Умное распределение нагрузки: Поддержка различных стратегий распределения запросов.
- Ведение логов: Все запросы и ответы записываются в PostgreSQL с возможностью фильтрации и анализа.
- Поддержка многоарендности: Возможность создания учетных записей для различных пользователей с индивидуальными правами доступа.
- Управление API ключами: Возможность создавать, редактировать и удалять ключи API, контролировать их использование и квоты.
Ограничения
CliRelay требует наличия Docker для работы, а его функциональность может зависеть от правильной настройки окружения. Приложение также требует наличия PostgreSQL и Redis. Хранение полных текстов запросов отключено по умолчанию, и его необходимо включать вручную. Кроме того, использование без аутентификации не рекомендуется в продакшн-среде.
Заключение
CliRelay — мощное и гибкое решение для управления подписками на AI инстрменты через единый прокси-сервер. Оно предоставляет многофункциональный интерфейс для работы с различными AI-сервисами и позволяет эффективно управлять ресурсами благодаря многоарендной архитектуре.
Открыть на GitHub: kittors/CliRelay →
