TensorFold — это движок для инференса языковых моделей на Apple Silicon и NVIDIA GPU с использованием Metal и CUDA. Он позволяет запускать модели без ...
PegaInfer — это движок для вывода LLM, построенный на Rust и CUDA, который позволяет использовать модели, совместимые с OpenAI, без зависимости от PyT...
Mynah — это самостоящая система цифрового человека, которая обеспечивает полноценное взаимодействие в реальном времени. Проект позволяет создавать и р...