RWKV/rwkv.cpp

適用於 RWKV 語言模型在 CPU 上進行 INT4/INT5/INT8 與 FP16 推理

↗ 在 GitHub 開啟

星數

1,579

Fork 數

129

語言

C++

授權

MIT

最後推送

1 年前

C++machine-learning llm deep-learning language-model quantization ggml rwkv

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。