RepoRadar vLLM Metal: запуск vLLM на чипах Apple Silicon с MLX
vLLM Metal — это аппаратный плагин для запуска vLLM на чипах Apple Silicon, использующий MLX в качестве основного вычислительного бекенда. Он обеспечивает совместимость между MLX и PyTorch, упрощая настройку и запуск моделей машинного обучения на Mac.
Этот проект решает задачу эффективного использования графических процессоров Apple для работы с vLLM, предоставляя разработчикам возможность запускать локальные модели без сложной конфигурации. Он особенно полезен тем, кто работает с ML-технологиями на устройствах Apple и хочет получить максимальную производительность от своих ресурсов.
Проект поддерживается сообществом, поэтому стоит учитывать, что он может находиться на ранней стадии развития. Чтобы запустить его, нужно следовать инструкциям в документации, доступной по ссылке из README. Учти, что наличие активного сообщества в Slack поможет с решением возникающих вопросов.
vLLM Metal — это плагин, который позволяет запускать vLLM на Mac с Apple Silicon, используя MLX в качестве основного вычислительного окружения. Он объединяет MLX и PyTorch, обеспечивая единый путь для снижения нагрузки на ресурсы.
Основные возможности
- Поддержка различных моделей для генерации текста и изображений.
- Интеграция с vLLM-Omni для генерации изображений из текста, начиная с модели SDXL.
- Экспериментальная поддержка запросов на основе D3 (Decision 3.0) для текстовых решений.
- Оптимизация управления памятью для одновременного использования с другими приложениями.
Системные требования
vLLM Metal требует macOS 15 (Sequoia) или более поздней версии на устройствах Apple Silicon.
Установка
Для установки vLLM Metal доступны следующие методы:
- Стабильный релиз: Установи через Homebrew, затем запускай команду
vllmбез активации окружения.brew tap vllm-project/vllm-metal https://github.com/vllm-project/vllm-metal brew install vllm-project/vllm-metal/vllm-metal - Самая последняя версия разработки: Используй инсталлятор curl, затем активируй окружение. Компилятор не нужен.
curl -fsSL https://raw.githubusercontent.com/vllm-project/vllm-metal/main/install.sh | bash source ~/.venv-vllm-metal/bin/activate
Ограничения и особенности
Проект поддерживает растущее количество моделей, совместимых с Apple Silicon, однако для получения полного списка моделей стоит ознакомиться с документом docs/supported_models.md.
Радар проекта: 73 из 100 — крепкий проект
- Импульс 37 ≈ 6 звёзд в день
- Темп разработки 100 455 коммитов за 12 недель
- Зрелость 68 проекту 11 месяцев, 9 релизов
- Сообщество 79 110 участников, 350 форков
- Свежесть 99 последний коммит — сегодня
- Быстрый старт 65 есть: команда установки, сайт/демо
- Готовность к продакшену 75 релиз v0.33.0.dev20261112090227, автосборка, тесты
- Безопасность и доверие 75 лицензия Apache-2.0, организация
- Документация 77 README 4.2 тыс. знаков, 4 раздела, папка docs
- Экосистема 57 9 подписчиков на обновления, 6 тем
Как считаем
Только открытые данные GitHub на 13.11.2026, без оценок нейросети. Каждая ось — от 0 до 100, итог — среднее.
- Импульс — звёзд в день: за время наших замеров, а пока их нет — за всю жизнь проекта; 200 в день — максимум.
- Темп разработки — коммитов за последние 12 недель; 300 — максимум. Пока GitHub не досчитал статистику, ось не учитывается.
- Зрелость — возраст проекта (3 года — максимум) и число релизов (30 — максимум), поровну.
- Сообщество — участников с коммитами (200 — максимум) и форков (5000 — максимум), поровну.
- Свежесть — дней с последнего коммита: сегодня — 100, полгода и больше или архив — 0.
- Быстрый старт — в README есть команда установки, раздел «быстрый старт» или примеры использования, в репозитории — Docker и папка примеров, у проекта есть сайт или демо.
- Готовность к продакшену — релизы, версия 1.0 и выше, автосборка (GitHub Actions), тесты, лицензия, журнал изменений.
- Безопасность и доверие — открытая лицензия (своя — половина балла), политика безопасности (SECURITY.md), проект организации, правила для участников, не в архиве.
- Документация — объём и структура README, папка docs или сайт, оценка «здоровья сообщества» GitHub.
- Экосистема — звёзды (50 тыс. — максимум), подписчики на обновления (1000 — максимум), темы репозитория.
Открыть на GitHub: vllm-project/vllm-metal →
