DeepInfer: высокопроизводительный фреймворк для инференса DeepSeek моделей
DeepInfer — это высокопроизводительный фреймворк для инференса моделей DeepSeek, подходящий для больших масштабов. Он предназначен для оффлайн-инферен...