LLMKube — это Kubernetes-оператор для саморазмещенной инференции LLM на различных GPU, включая NVIDIA, AMD и Apple Silicon.
Он позволяет запустить м...
cuVS — библиотека для векторного поиска и кластеризации на GPU от NVIDIA. Она предназначена для реализации алгоритмов приближенного поиска ближайших с...