RepoRadar apfel: локальный CLI инструмент для AI на Mac с Apple Silicon
apfel — это CLI инструмент, который позволяет использовать встроенные AI возможности на Mac с чипами Apple Silicon, не выходя в облако. В отличие от других решений, здесь нет необходимости в API ключах или загрузке дополнительных инструментов — всё работает локально.
Проект будет полезен разработчикам, которые хотят интегрировать ИИ в свои приложения и скрипты без зависимостей от внешних сервисов. Среди главных возможностей — использование командной строки для получения текстовых ответов на запросы и развертывание локального сервера, совместимого с OpenAI. Установить его можно на macOS 26 Tahoe+ с Apple Silicon, а также необходима активация Apple Intelligence. Учти, что чем новее чип, тем больше размер токенов, которые можно обрабатывать.
Итак, если ищешь автономное решение с доступом к LLM без лишних забот, apfel может стать хорошим выбором.
Проект apfel — это инструмент, который позволяет использовать встроенную модель искусственного интеллекта на компьютерах Mac с процессорами Apple Silicon. Он предоставляет возможность взаимодействовать с моделью через командную строку или в виде сервиса, совместимого с OpenAI, при этом все обработки происходят на устройстве, без участия облака или API ключей.
Особенности
Программа apfel поддерживает два режима работы:
- UNIX инструмент: можно просто ввести команду с текстом запроса, получая ответ в виде текста, JSON или даже кода.
- Сервер, совместимый с OpenAI: запускает локальный сервер, который обрабатывает запросы по аналогии с API OpenAI.
Кроме того, apfel поддерживает трансформации текста и работы с файлами, включая PDF и изображения, осуществляя оптическое распознавание текста (OCR).
Установка и требования
Для установки apfel требуется:
- macOS версии 26 Tahoe и выше на компьютерах с процессорами Apple Silicon (M1 и выше).
- Активация Apple Intelligence.
Установить apfel можно с помощью Homebrew:
brew install apfelАльтернативно, можно собрать проект из исходников, используя инструментарий командной строки:
git clone https://github.com/Arthur-Ficial/apfel.git && cd apfel && make installКак начать
После установки, ты можешь запускать apfel как обычный UNIX инструмент:
apfel "Какой капитал Австрии?"Существует множество опций для работы с текстом, файлами и извлечения данных из различных форматов. Например, чтобы подвести итоги документа:
apfel -f README.md "Подведи итоги этого проекта"Для запуска сервера, исполни команду:
apfel --serveСервер будет доступен по адресу http://localhost:11434/v1.
Ограничения
Несмотря на мощные возможности, у проекта есть ряд ограничений:
- Контекстное окно ограничено 4096 токенами для macOS 26 и M1/M2 или 8192 токенами для macOS 27 на M3 и новее.
- Отсутствуют функции работы с векторными моделями (embeddings) и многомодальная поддержка изображений доступна только на macOS 27.
- Модель может выдавать некорректные ответы на вопросы, связанные с её датами обучения.
На устройстве отсутствует доступ к текущей дате и интернету; можно передавать дату через системные сообщения, если это важно для запроса.
Заключение
Проект apfel предлагает удобный и мощный инструмент для работы с локальной моделью AI на компьютерах Mac. Он отлично подходит для интеграции в существующие рабочие процессы и позволяет избежать зависимости от облачных сервисов.
Открыть на GitHub: Arthur-Ficial/apfel →