透過直接從 NVMe 串流已啟動的權重,在可用 RAM 之外執行完整的 2.78 兆參數 Kimi K3 模型。這是一個無相依性、可嵌入的 C 推論引擎。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。