Helldez/BigMoeOnEdge

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

↗ 在 GitHub 打开

星数

550

Fork 数

58

语言

C++

许可

Apache-2.0

最后推送

3天前

C++android cpp llm on-device-ai qwen inference mixture-of-experts gguf llama-cpp edge-ai gemma moe gpt-oss

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。