Что нового на GitHub — короткие обзоры на русском
обзоров: 1053 стратегий поиска: 5 обновляется ежедневно

Все материалы по теме «vulkan»

Популярные теги
Фильтр по тегу: vulkan  ✕ Сбросить

vllm.cpp: C++ движок для эффективного запуска языковых моделей

vllm.cpp — это C++ движок, ориентированный на сообщество, аналогичный vLLM, предлагающий улучшенные функции, такие как GGUF и Cache-aware scheduling. ...
Post image

vllm.cpp: C++-движок для работы с LLM без Python

vllm.cpp — это C++-движок, который является упрощённой альтернативой vLLM и предлагает функционал для работы с LLM без зависимости от Python. Проект...