通过直接从 NVMe 流式传输已激活的权重,在可用 RAM 之外运行完整的 2.78 万亿参数 Kimi K3 模型。这是一个无依赖、可嵌入的 C 推理引擎。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。