BigMoeOnEdge: запуск моделей Mixture-of-Experts на устройствах с ограниченной памятью
BigMoeOnEdge — проект, который позволяет запускать модели Mixture-of-Experts (MoE) больше объема оперативной памяти устройства, используя потоковую пе...