Helldez/BigMoeOnEdge

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

↗ Abrir en GitHub

Estrellas

549

Bifurcaciones

57

Lenguaje

C++

Licencia

Apache-2.0

Último push

hace 2 días

C++android cpp llm on-device-ai qwen inference mixture-of-experts gguf llama-cpp edge-ai gemma moe gpt-oss

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.