rwkv

RWKV (ausgesprochen RwaKuv) ist ein RNN mit hervorragender LLM-Leistung, das auch wie ein GPT-Transformer direkt trainiert werden kann (parallelisierbar). Wir sind bei RWKV-7 „Goose“. Es kombiniert also das Beste aus RNN und Transformer – hohe Leistung, lineare Zeit, konstanter Speicherplatz (kein KV-Cache), schnelles Training, unendliche ctx_len und kostenloses Sentence Embedding.

ChatRWKV ist wie ChatGPT, basiert jedoch auf dem RWKV-Sprachmodell (100 % RNN) und ist Open Source.

Ein RWKV-Verwaltungs- und Starttool, vollautomatisiert, nur 8 MB groß. Bietet zudem eine zur OpenAI API kompatible Schnittstelle. RWKV ist ein vollständig Open-Source-basiertes Sprachmodell für die kommerzielle Nutzung.

Wenda: Eine LLM-Aufrufplattform. Ziel ist die effiziente Inhaltserstellung für bestimmte Umgebungen unter Berücksichtigung von Rechenzeitbeschränkungen für Einzelpersonen und kleine bis mittlere Unternehmen sowie von Wissenssicherheit und Datenschutz.

Mit nur grundlegenden Python-Kenntnissen ein großes Sprachmodell von Grund auf aufbauen; schrittweiser Aufbau von GLM4\Llama3\RWKV6 von 0 an, um die Prinzipien großer Sprachmodelle tiefgreifend zu verstehen

Llama und andere große Sprachmodelle (LLMs) offline unter iOS und macOS mit der GGML-Bibliothek nutzen.

INT4/INT5/INT8- und FP16-Inferenz auf der CPU für das RWKV-Sprachmodell

Android 17 Lokaler LLM-Prototyp mit Jetpack Compose und ONNX Runtime für Offline-KI-Inferenzexperimente.

Die All-in-One-RWKV-Laufzeitbox mit Embedding, RAG, KI-Agenten und mehr.