rwkv

RWKV（読み方：RwaKuv）は、優れたLLM性能を持つRNNであり、GPTトランスフォーマーのように直接学習（並列化可能）することもできます。現在RWKV-7「Goose」を使用しています。これはRNNとトランスフォーマーの長所を組み合わせたもので、優れた性能、線形時間、定数空間（kv-cache不要）、高速学習、無限のctx_len、無料の文埋め込みを提供します。

ChatRWKVはChatGPTに似ていますが、RWKV（100% RNN）言語モデルを搭載しており、オープンソースです。

RWKVの管理・起動ツール。完全自動化で、わずか8MB。OpenAI API互換のインターフェースを提供。RWKVは完全にオープンソースで商用利用可能な大規模言語モデルです。

闻达：LLM呼び出しプラットフォーム。特定の環境に特化した効率的なコンテンツ生成を目的としており、個人および中小企業の計算リソースの制約、ならびに知識のセキュリティとプライバシーの問題を考慮に入れています。

Pythonの基礎知識があれば、ゼロから大規模言語モデルを構築。GLM4\Llama3\RWKV6をゼロから段階的に構築し、大規模モデルの原理を深く理解する。

GGMLライブラリを使用してiOSおよびMacOSでオフラインで動作するllamaなどの大規模言語モデル

RWKV 言語モデルの CPU 上での INT4/INT5/INT8 および FP16 推論。

オフラインでの AI 推論実験用の Jetpack Compose と ONNX Runtime を使用した Android 17 ローカル LLM プロトタイプ。

埋め込み、RAG、AI エージェントなどを備えたオールインワンの RWKV ランタイムボックス。