Что нового на GitHub — короткие обзоры на русском
обзоров: 941 стратегий поиска: 5 обновляется ежедневно

Все материалы по теме «языковые модели»

Популярные теги
Фильтр по тегу: языковые модели  ✕ Сбросить
Post image

ThoughtDAG: создание интерактивных карт мыслей и диалогов

ThoughtDAG — это инструмент для создания интерактивных карт мыслей, где разговоры с языковыми моделями трансформируются в узлы, соединённые контекстны...
Post image

LoLLMs WebUI: веб-интерфейс для работы с языковыми моделями

Проект LoLLMs WebUI — это веб-интерфейс для работы с крупномасштабными языковыми и мультимодальными моделями. Он предназначен для локального использов...

vllm.cpp: C++ движок для эффективного запуска языковых моделей

vllm.cpp — это C++ движок, ориентированный на сообщество, аналогичный vLLM, предлагающий улучшенные функции, такие как GGUF и Cache-aware scheduling. ...
Post image

EvalScope: фреймворк для оценки и бенчмаркинга крупных моделей

EvalScope — это фреймворк для оценки и бенчмаркинга крупных моделей (LLM, VLM, AIGC) с упрощённой настройкой. Он решает задачу проверки производительн...
Post image

LMBenchmark: оценка языковых моделей в создании рассказов

Это бенчмарк для оценки, как хорошо языковые модели (LLM) справляются с созданием коротких рассказов, включающих 10 обязательных элементов сюжета. Он ...
Post image

Rapid-MLX: сервер инференса для языковых моделей на Apple Silicon

Rapid-MLX — это сервер инференса для языковых моделей, совместимый с OpenAI и Anthropic, а также Mac-приложение для Apple Silicon, созданное на основе...
Post image

vLLM: развертывание больших языковых моделей на платформе Runpod

Это шаблон рабочего процесса для развертывания больших языковых моделей (LLM) с использованием vLLM на платформе Runpod. Он позволяет создать совмести...
Post image

LMDeploy: сжатие и развертывание больших языковых моделей

LMDeploy — это инструмент для сжатия, развертывания и обслуживания больших языковых моделей (LLM). Он упрощает процесс оптимизации и внедрения LLM в п...
Post image

Mesh LLM: распределённая система для работы с языковыми моделями

Mesh LLM — это распределённая система для работы с искусственным интеллектом и языковыми моделями, предназначенная для совместного использования вычис...

Inference Gateway: единый интерфейс для доступа к API языковых моделей

Inference Gateway — это облачно-ориентированный и высокопроизводительный шлюз для объединения нескольких провайдеров LLM, от локальных решений, таких ...

Kimi K3: высокопроизводительный вывод модели на одном CPU

Kimi K3 — это модель с 2.78 триллиона параметров, работающая на одном CPU с использованием 8.24 ГБ оперативной памяти. Проект написан на C99 и не треб...
Post image

llm-d: высокопроизводительный стек для распределённого сервинга вывода

llm-d — это высокопроизводительный стек для распределённого сервинга вывода, оптимизированный для работы на Kubernetes. Он помогает достигнуть максима...