Atmosphere: портативная среда выполнения для AI-агентов на JVM

Проект Atmosphere представляет собой реальный движок для AI-агентов, работающий на платформе JVM. Он обеспечивает потоковую передачу данных от среды выполнения LLM (Large Language Model) к клиенту через широкие возможности каналов, включая WebSocket, SSE, long-polling и gRPC. Atmosphere включает в себя готового к использованию агента, который поддерживает функции переподключения, авторизации и управления правами.

Зачем нужен Atmosphere

Atmosphere создан для команд, которые хотят, чтобы AI-агенты работали как полноценные сервисы. Он предоставляет:

• Стриминг для реальных клиентов через поддержку различных протоколов.
• Возможность комбинирования интеграций с AI через единый интерфейс.
• Готового к работе агента с встроенными функциями памяти, планирования и управления подагентами.
• Механизмы управления выполнением и контроля за работой агентов.
• Поддержку взаимодействия с пользователем для паузы и продолжения работы агентов.
• Запись и воспроизведение действий агентов для улучшения анализа и производительности.
• Универсальный доступ к агентам через различные платформы и приложения.

Как установить и запустить

Для быстрой установки и запуска Atmosphere необходимо выполнить следующие команды:

brew install Atmosphere/tap/atmosphere

# Или:
curl -fsSL https://raw.githubusercontent.com/Atmosphere/atmosphere/main/cli/install.sh | sh

atmosphere run spring-boot-multi-agent-startup-team

После установки ты можешь создать свое приложение с помощью команды:

atmosphere new my-agent --template ai-chat
cd my-agent
LLM_API_KEY=your-key ./mvnw spring-boot:run

Как устроен Atmosphere

Atmosphere включает в себя ряд модулей и компонентов, которые обеспечивают его функциональность:

• atmosphere-runtime — для стриминга через WebSocket, SSE и gRPC.
• atmosphere-ai — интерфейс для интеграции с различными AI-адаптерами.
• Агенты — создаются с помощью аннотации @Agent, что позволяет добавлять необходимый функционал.
• Поддержка многопоточности и управления состоянием для долговременной работы агентов.

Каждый агент может использовать различные адаптеры, которые реализуют специфические функции, адаптируя их под конкретные нужды проекта.

Ограничения и нюансы

Atmosphere не является полноценной платформой для хостинга агентов. Он предоставляет базовые примитивы, которые можно использовать в любом контейнере, но ответственность за вычисления и планирование лежит на выбранном хосте (таких как Tomcat, Jetty и т.д.). Также проект не включает в себя механизмы оплаты или коммерческие примитивы.

Atmosphere подходит для ситуаций, где необходимо использование управляемых AI-агентов в существующих JVM-стэках, но для автономных серверлес-агентов чаще всего лучше подойдет другая платформа.