BlinkDL/RWKV-LM

RWKV（読み方：RwaKuv）は、優れたLLM性能を持つRNNであり、GPTトランスフォーマーのように直接学習（並列化可能）することもできます。現在RWKV-7「Goose」を使用しています。これはRNNとトランスフォーマーの長所を組み合わせたもので、優れた性能、線形時間、定数空間（kv-cache不要）、高速学習、無限のctx_len、無料の文埋め込みを提供します。