RepoRadar yoagent: библиотека для Rust с поддержкой семи LLM-протоколов
yoagent — это библиотека для Rust, которая реализует цикл агентов и поддерживает поток данных из семи LLM-протоколов. Проект позволяет запускать свои инструменты и обрабатывать запросы до завершения, что делает его универсальным для различных сценариев, от локальной разработки до использования в облачных сервисах, таких как Cloudflare Worker.
В отличие от многих альтернатив, yoagent не является полноценным агентом, а предоставляет основу для создания таких приложений. Это делает его удобным для разработчиков, которым нужно интегрировать возможности искусственного интеллекта в свои приложения без глубокого погружения в детали работы с LLM. Библиотека может быть интересна как исследователям, так и разработчикам, желающим экспериментировать с LLM в своих проектах.
Запуск приложения прост: просто клонируй репозиторий и выполняй команду cargo run, при этом не требуется API-ключ или дополнительная настройка. Учти, что проект всё ещё находится в разработке, поэтому могут быть ограничения и ошибки.
Проект yoagent представляет собой библиотеку для языка Rust, предназначенную для создания агентов, работающих с различными протоколами LLM (Large Language Model). Основная идея yoagent заключается в том, чтобы предложить универсальный цикл для агентов, который обрабатывает задачи без необходимости глубокого понимания внутреннего устройства каждого отдельного протокола.
Зачем нужен yoagent
Проект полезен тем, кто разрабатывает или использует агентов, способных взаимодействовать с разными LLM, выполняя определённые задачи, например, поиск TODO-комментариев в исходном коде. yoagent обеспечивает плавную работу агентов, минимизируя количество ошибок и обеспечивая оптимальное управление контекстом. Библиотека гарантирует, что все агенты следуют единому алгоритму работы, а любые нежелательные состояния (например, зависания или неправильные завершения) обрабатываются должным образом.
Как установить и запустить
Для начала работы с yoagent достаточно выполнить несколько команд в терминале:
git clone https://github.com/yologdev/yoagent && cd yoagent
ollama serve &
ollama pull llama3.1:8b
cargo run --example cli -- --provider ollama
Эти команды создадут и запустят простого кодирующего агента, который сможет выполнять команды по чтению, записи и редактированию файлов, а также выполнять поиск и выводить результаты в потоковом режиме.
Как устроен yoagent
Библиотека yoagent позволяет использовать различные инструменты и предоставляет возможность интеграции с разными моделями через простые API. Каждый агент основан на едином цикле, что позволяет избежать повторного кода. Для настройки и запуска агенту необходимы определенные конфигурации, в том числе выбор протокола и ключей API, если они требуются:
[dependencies]
yoagent = "0.25"
tokio = { version = "1", features = ["full"] }
Ограничения
yoagent не включает в себя функционал, связанный с хранением векторов или трансформацией данных, поэтому для задач, связанных с выборками или управлением задачами, следует использовать другие библиотеки, такие как rig или swiftide. Библиотека ориентирована на предоставление базового функционала для агентов и может не покрывать специфические случаи использования без дополнительных расширений.
Заключение
yoagent подходит для разработчиков, заинтересованных в создании агентов на Rust, которые могут работать с разными LLM-протоколами. Это простой и эффективный инструмент для реализации кодирующих агентов с минимальной настройкой и конфигурацией, что позволяет сосредоточиться на самих задачах, а не на сложности интеграции.
Открыть на GitHub: yologdev/yoagent →
