RepoRadar ms-swift: инфраструктура для настройки LLM и MLLM с PEFT
ms-swift — это инфраструктура для настройки LLM и MLLM с использованием PEFT или полных параметров. Она позволяет эффективно работать с более чем 600 LLM (например, Qwen3.6, Llama4) и 300 MLLM (включая Qwen3-VL, Phi4), что может быть полезно для разработчиков, занимающихся обучением или тонкой настройкой современных моделей.
Проект выделяется между аналогами удобством интеграции с существующими моделями и поддержкой множества архитектур. Благодаря этому, тебе не придется начинать с нуля — можно быстро адаптировать и тестировать различные модели в рамках единой системы. Поддерживаются Python 3.12 и PyTorch версии 2.0 и выше. Для начала работы, следуй инструкциям в документации по установке и использованию.
Имей в виду, что проект на данный момент является стадией разработки, поэтому возможны не все функции или оптимизация, которые ты ожидаешь. Кроме того, актуальный уровень поддержки и сообщество можно проверить через Discord или документацию.
Что такое ms-swift?
ms-swift — это фреймворк для дообучения и развертывания крупных моделей и мультимодальных моделей, предоставленный сообществом ModelScope. Он поддерживает обучение (предварительное обучение, дообучение, согласование с человеком), инференс, оценку, квантизацию и развертывание более 600 текстовых моделей и 400 мультимодальных моделей. В числе поддерживаемых моделей — Qwen3, InternLM3 и множество других.
Для чего нужен ms-swift?
Платформа ms-swift предназначена для упрощения и ускорения процесса обучения и развертывания высококачественных языковых и мультимодальных моделей. Она интегрирует новейшие технологии обучения, включая методы параллелизма Megatron и алгоритмы обучения с подкреплением GRPO. Этот фреймворк предоставляет пользователям удобные инструменты для выполнения различных задач, связанных с обучением и инференсом, тем самым улучшая производительность и ускоряя скорость разработки.
Как установить и запустить?
Установка ms-swift осуществляется с помощью команды pip:
pip install ms-swift -UЕсли ты хочешь установить фреймворк из исходников, используй следующие команды:
git clone https://github.com/modelscope/ms-swift.git
cd ms-swift
pip install -e .Также возможна установка с использованием uv:
uv pip install ms-swift -U --torch-backend=autoДля работы требуется определённая среда, желательно использовать Python версии 3.12, а также PyTorch версии не ниже 2.0 и другие зависимости. Подробную информацию о необходимых версиях можно найти в README.
Как быстро начать пользоваться?
Чтобы начать обучение модели Qwen3-4B-Instruct-2507 на GPU 3090, можно использовать следующий пример команды:
CUDA_VISIBLE_DEVICES=0 \
swift sft \
--model Qwen/Qwen3-4B-Instruct-2507 \
--tuner_type lora \
--dataset 'AI-ModelScope/alpaca-gpt4-data-zh#500' \
'AI-ModelScope/alpaca-gpt4-data-en#500' \
'swift/self-cognition#500' \
--torch_dtype bfloat16 \
--num_train_epochs 1 \
--per_device_train_batch_size 1 \
--output_dir outputПосле завершения обучения для инференса можно использовать:
CUDA_VISIBLE_DEVICES=0 \
swift infer \
--adapters output/vx-xxx/checkpoint-xxx \
--stream trueДля использования веб-интерфейса просто введи команду:
SWIFT_UI_LANG=en swift web-uiОграничения
Хотя ms-swift поддерживает широкий спектр моделей и технологий, существуют некоторые ограничения. Например, для успешной работы потребуется достаточное количество вычислительных ресурсов (GPU), а также корректная настройка окружения и зависимостей. Поддержка различных типов моделей может варьироваться, и некоторые функции могут иметь специфические требования к аппаратному обеспечению или программному обеспечению.
В случае использования нестандартных моделей или датасетов может потребоваться дополнительная настройка и адаптация параметров обучения для успешного завершения процесса.
Радар проекта: 86 из 100 — зрелый и живой проект
- Импульс 41 ≈ 8 звёзд в день
- Темп разработки 100 315 коммитов за 12 недель
- Зрелость 100 проекту 3 года, больше 100 релизов
- Сообщество 94 250 участников, 1789 форков
- Свежесть 97 последний коммит — 6 дней назад
- Быстрый старт 55 есть: команда установки, сайт/демо, примеры
- Готовность к продакшену 90 релиз v4.6.0, автосборка, тесты
- Безопасность и доверие 100 лицензия Apache-2.0, SECURITY.md, организация
- Документация 100 README 35.9 тыс. знаков, 37 разделов, папка docs
- Экосистема 82 55 подписчиков на обновления, 19 тем
Как считаем
Только открытые данные GitHub на 07.11.2026, без оценок нейросети. Каждая ось — от 0 до 100, итог — среднее.
- Импульс — звёзд в день: за время наших замеров, а пока их нет — за всю жизнь проекта; 200 в день — максимум.
- Темп разработки — коммитов за последние 12 недель; 300 — максимум. Пока GitHub не досчитал статистику, ось не учитывается.
- Зрелость — возраст проекта (3 года — максимум) и число релизов (30 — максимум), поровну.
- Сообщество — участников с коммитами (200 — максимум) и форков (5000 — максимум), поровну.
- Свежесть — дней с последнего коммита: сегодня — 100, полгода и больше или архив — 0.
- Быстрый старт — в README есть команда установки, раздел «быстрый старт» или примеры использования, в репозитории — Docker и папка примеров, у проекта есть сайт или демо.
- Готовность к продакшену — релизы, версия 1.0 и выше, автосборка (GitHub Actions), тесты, лицензия, журнал изменений.
- Безопасность и доверие — открытая лицензия (своя — половина балла), политика безопасности (SECURITY.md), проект организации, правила для участников, не в архиве.
- Документация — объём и структура README, папка docs или сайт, оценка «здоровья сообщества» GitHub.
- Экосистема — звёзды (50 тыс. — максимум), подписчики на обновления (1000 — максимум), темы репозитория.
Открыть на GitHub: modelscope/ms-swift →
