Helldez/BigMoeOnEdge

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

↗ Mở trên GitHub

Sao

550

Fork

58

Ngôn ngữ

C++

Giấy phép

Apache-2.0

Push gần nhất

3 ngày trước

C++android cpp llm on-device-ai qwen inference mixture-of-experts gguf llama-cpp edge-ai gemma moe gpt-oss

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.