rwkv

RWKV adalah RNN dengan performa LLM yang hebat, yang juga dapat dilatih secara langsung seperti GPT transformer (dapat diparalelkan). Kami berada di RWKV-7 "Goose". Ini menggabungkan keunggulan RNN dan transformer - performa hebat, waktu linear, ruang konstan (tanpa kv-cache), pelatihan cepat, ctx_len tak terbatas, dan sentence embedding gratis.

ChatRWKV mirip dengan ChatGPT tetapi ditenagai oleh model bahasa RWKV (100% RNN) dan bersifat open-source.

Alat manajemen dan startup RWKV, otomatisasi penuh, hanya 8MB. Serta menyediakan antarmuka yang kompatibel dengan API OpenAI. RWKV adalah model bahasa besar yang sepenuhnya sumber terbuka dan tersedia untuk penggunaan komersial.

Wenda: Sebuah platform pemanggilan LLM. Bertujuan untuk pembuatan konten yang efisien bagi lingkungan tertentu, sambil mempertimbangkan keterbatasan sumber daya komputasi individu dan UKM, serta masalah keamanan pengetahuan dan privasi.

Membangun Large Language Model dari nol hanya dengan dasar Python; membangun GLM4/Llama3/RWKV6 langkah demi langkah untuk memahami prinsip LLM secara mendalam

Menjalankan llama dan model bahasa besar lainnya di iOS dan macOS secara offline menggunakan pustaka GGML.

Inferensi INT4/INT5/INT8 dan FP16 pada CPU untuk model bahasa RWKV

Prototipe LLM lokal Android 17 dengan Jetpack Compose dan ONNX Runtime untuk eksperimen inferensi AI luring.

Kotak runtime RWKV all-in-one dengan embed, RAG, agen AI, dan banyak lagi.