跳到主要內容
buildradar
登入

sqliteai/warp

@sqliteai

透過直接從 NVMe 串流已啟動的權重,在可用 RAM 之外執行完整的 2.78 兆參數 Kimi K3 模型。這是一個無相依性、可嵌入的 C 推論引擎。

星數
2,373
Fork 數
177
語言
C
授權
Apache-2.0
最後推送
2 週前
C

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。