RWKV/rwkv.cpp

RWKV 言語モデルの CPU 上での INT4/INT5/INT8 および FP16 推論。

↗ GitHub で開く

スター

1,579

フォーク

129

言語

C++

ライセンス

MIT

最終プッシュ

1 年前

C++machine-learning llm deep-learning language-model quantization ggml rwkv

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。