ccLoad: упрощает работу с несколькими ИИ API и ключами

ccLoad — это самостоятелный API шлюз для работы с Claude Code, Codex, Gemini и клиентами, совместимыми с OpenAI. Он позволяет объединить несколько источников AI, таких как официальные API ключи и подписки, и упрощает их управление. Каждый клиент получает доступ через один адрес и токен ccLoad, что значительно упрощает интеграцию и монетизацию.

Зачем нужен ccLoad?

Проект создан для разработчиков, у которых есть несколько подписок на AI-сервисы, и для команд, которым необходимо делиться доступом к моделям. ccLoad позволяет:

• Управлять ключами API и подписками в одном месте, что облегчает поддержку и переключение между источниками в случае перебоев или исчерпания квоты.
• Создавать индивидуальные токены доступа для каждого пользователя с ограничениями на использование, что упрощает управление затратами.
• Мониторить работу каналов, отслеживать затраты и использовать очереди для обработки запросов.

Как установить и запустить?

Для установки и запуска ccLoad доступно несколько способов, основные из которых:

• Docker (рекомендуется):

  docker run -d --name ccload \
    -p 8080:8080 \
    -e CCLOAD_PASS=your_admin_password \
    -v ccload_data:/app/data \
    ghcr.io/caidaoli/ccload:latest
  

• Docker Compose:

  curl -o docker-compose.yml https://raw.githubusercontent.com/caidaoli/ccLoad/master/docker-compose.yml
  curl -o .env https://raw.githubusercontent.com/caidaoli/ccLoad/master/.env.docker.example
  # Редактируй .env и укажи CCLOAD_PASS как свой пароль администратора
  docker compose up -d
  

• Homebrew (macOS / Linux):

  brew tap caidaoli/ccload https://github.com/caidaoli/ccLoad.git
  brew install caidaoli/ccload/ccload
  
  mkdir -p "$(brew --prefix)/var/ccload"
  cd "$(brew --prefix)/var/ccload"
  (umask 077; touch .env)
  ${EDITOR:-vi} .env
  
  brew services start caidaoli/ccload/ccload
  

• Загрузка бинарного файла: скачай файл для своей платформы и запусти его с установленным паролем администратора.

Проверь, что сервис запущен:

curl http://localhost:8080/health

Как работает ccLoad?

ccLoad направляет запросы, обрабатывает их и управляет каналами с возможностью переключения на резервные источники в случае ошибок. Он поддерживает:

• Различные протоколы от клиентов и перевод между ними.
• Систему приоритетного маршрутизирования запросов с учётом состояния каналов.
• Мониторинг использования и затрат, чтобы контролировать расходы на API.

Ограничения и ошибка

Некоторые распространённые проблемы:

• Сервис завершается при старте, если не установлен пароль CCLOAD_PASS.
• Запросы возвращают 401, если не указан или не правильный токен API.
• Модель не найдена (404) или нет доступного источника (503).

ccLoad предоставляет гибкое решение для управления несколькими AI-источниками и упрощает работу с ними, что особенно полезно для разработчиков и команд.