Hugging Face Transformers — это библиотека для работы с современными моделями машинного обучения, поддерживающая текст, изображения, аудио и многомода...
vllm.cpp — это C++-движок, который является упрощённой альтернативой vLLM и предлагает функционал для работы с LLM без зависимости от Python.
Проект...
cuVS — библиотека для векторного поиска и кластеризации на GPU от NVIDIA. Она предназначена для реализации алгоритмов приближенного поиска ближайших с...
RAFT — это библиотека с основными алгоритмами и примитивами для машинного обучения и информационного поиска, ускоренными с помощью CUDA. Она предназна...