#cuda — RepoRadar

AI и LLM 25.10.2026

TensorFold: инференс языковых моделей на Apple Silicon и NVIDIA GPU

TensorFold — это движок для инференса языковых моделей на Apple Silicon и NVIDIA GPU с использованием Metal и CUDA. Он позволяет запускать модели без ...

AI и LLM 21.10.2026

Mooncake: платформа для развертывания больших языковых моделей

Mooncake — это платформа для развертывания Kimi, сервиса на базе больших языковых моделей от Moonshot AI. Она решает проблему эффективного обслуживани...

AI и LLM 19.10.2026

PegaInfer: движок вывода LLM на Rust и CUDA без PyTorch

PegaInfer — это движок для вывода LLM, построенный на Rust и CUDA, который позволяет использовать модели, совместимые с OpenAI, без зависимости от PyT...

AI и LLM 12.10.2026

vllm.cpp: C++ движок для эффективного запуска языковых моделей

vllm.cpp — это C++ движок, ориентированный на сообщество, аналогичный vLLM, предлагающий улучшенные функции, такие как GGUF и Cache-aware scheduling. ...

AI и LLM 07.10.2026

yzma: библиотека для интеграции llama.cpp в приложения на Go

yzma — это библиотека для интеграции `llama.cpp` в приложения на Go, позволяющая выполнять локальный инференс с аппаратным ускорением. Проект решает...

В тренде 22.09.2026

Kev: компактные модели принятия решений для разработчиков

Kev — это набор компактных моделей принятия решений, построенных на Qwen3.5, которые ты можешь тренировать и запускать сам. Основная задача проекта — ...

В тренде 20.09.2026

SemIf: создание семантических условий на основе открытых моделей

SemIf — это проект для создания семантических условий на основе открытых моделей, который можно запускать на своем GPU, например, на GeForce 3090. Он ...

AI и LLM 16.09.2026

Hugging Face Transformers: работа с моделями машинного обучения

Hugging Face Transformers — это библиотека для работы с современными моделями машинного обучения, поддерживающая текст, изображения, аудио и многомода...

AI и LLM 15.09.2026

vllm.cpp: C++-движок для работы с LLM без Python

vllm.cpp — это C++-движок, который является упрощённой альтернативой vLLM и предлагает функционал для работы с LLM без зависимости от Python. Проект...

AI и LLM 14.09.2026

cuVS: библиотека для векторного поиска и кластеризации на GPU

cuVS — библиотека для векторного поиска и кластеризации на GPU от NVIDIA. Она предназначена для реализации алгоритмов приближенного поиска ближайших с...

AI и LLM 09.09.2026

RAFT: библиотека алгоритмов и примитивов для ML с поддержкой CUDA

RAFT — это библиотека с основными алгоритмами и примитивами для машинного обучения и информационного поиска, ускоренными с помощью CUDA. Она предназна...

Все материалы по теме «cuda»