cpu-inference

Kimi K3 2.78 兆参数模型，单 CPU 推理 8.24 GB RAM，C99 可携式：无 BLAS、无框架、无 GPU

eLLM: Run Long-Horizon Inference Faster on CPUs Than on GPUs

Krasis 是一款混合型 LLM 运行时，专注于在消费级 VRAM 受限的硬件上高效执行大型模型。