vLLM Metal — это аппаратный плагин для запуска vLLM на чипах Apple Silicon, использующий MLX в качестве основного вычислительного бекенда. Он обеспечи...
SemIf — это проект для создания семантических условий на основе открытых моделей, который можно запускать на своем GPU, например, на GeForce 3090. Он ...