Helldez/BigMoeOnEdge

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

↗ Abrir no GitHub

Estrelas

548

Bifurcações

56

Linguagem

C++

Licença

Apache-2.0

Último push

há 24 horas

C++android cpp llm on-device-ai qwen inference mixture-of-experts gguf llama-cpp edge-ai gemma moe gpt-oss

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.