LLM Hub: мобильное приложение для генерации контента с локальными моделями

LLM Hub — это мобильное приложение с функциями текстового чата, генерации изображений, видео и музыки, работающее на локальных моделях для Android и iOS. Оно направлено на использование мощных LLM без необходимости постоянного подключения к интернету, что обеспечивает конфиденциальность и оптимальную производительность на мобильных устройствах.

В отличие от облачных решений, LLM Hub позволяет пользователям запускать модели прямо на своих устройствах с поддержкой ускорения CPU/GPU/NPU. Подходит для разработчиков, ищущих локальные инструменты для работы с AI, а также для творческих людей, стремящихся генерировать контент на ходу. Установка проста — потребуется скачать приложение из Google Play или App Store.

Проект все еще в развитии, и планируются версии для Windows и macOS, так что если ты ищешь стабильное решение для мобильного генеративного AI, обрати внимание на LLM Hub.

LLM Hub — это мобильное приложение с открытым исходным кодом, предназначенное для общения с LLM (моделями обработки естественного языка), генерации изображений, видео и музыки на устройствах под управлением **Android** и **iOS**. Приложение оптимизировано для мобильного использования, поддерживает ускорение CPU/GPU/NPU и различные форматы моделей, что позволяет запускать мощные модели локально и безопасно.

Скачать

Ты можешь скачать LLM Hub из следующих источников:

Планируется выпуск настольных версий для Windows и macOS с расширенными возможностями.

Функции

Основные возможности LLM Hub включают:

  • Чат: многоразовые разговоры с поддержкой памяти, веб-поиска и мультимодального ввода.
  • AI Agent: автономный агент на устройстве, способный вызывать функции и выполнять команды терминала на Android.
  • Image Generator: генерация изображений по текстовым подсказкам с использованием Stable Diffusion.
  • Music Generator: генерация музыки и звуковых эффектов на устройствах с поддержкой Magenta.
  • Video Generator: возможность генерировать видео из текстовых подсказок или изображений.
  • Translator: перевод текста, изображений и аудио на более чем 50 языков в оффлайн-режиме.

Запуск приложения

Для начала работы с приложением следуй этим шагам:

  1. Скачай LLM Hub из **Google Play** или **App Store**, либо собери проект из исходников.
  2. Открой «Настройки» → «Загрузить модели» → загрузить или импортировать модель.
  3. Выбери модель и начинай общаться или генерировать изображения.

Конфиденциальность

LLM Hub уделяет большое внимание конфиденциальности:

  • 100% обработки на устройстве — интернет не требуется для работы.
  • Нет сбора данных — разговоры не покидают устройство.
  • Не требуется создание аккаунтов и отслеживание пользователей.

Ограничения и лицензия

Исходный код лицензирован под PolyForm Noncommercial License 1.0.0. Ты можешь использовать и развивать проект в некоммерческих целях, но коммерческое использование (включая распространение приложения, получение дохода от него и т.д.) требует получения письменного разрешения от автора.

Открыть на GitHub: timmyy123/LLM-Hub →

Что нового на GitHub — короткие обзоры на русском Новые обзоры приходят в Telegram. Без спама, по делу.
Подписаться

Похожие статьи

Популярные темы на сайте