rwkv

RWKV (prononcé RwaKuv) est un RNN offrant d'excellentes performances LLM, pouvant être entraîné directement comme un transformeur GPT (parallélisable). Nous en sommes à RWKV-7 "Goose". Il combine le meilleur du RNN et du transformeur : excellentes performances, temps linéaire, espace constant (pas de kv-cache), entraînement rapide, longueur de contexte infinie et plongements de phrases gratuits.

ChatRWKV est similaire à ChatGPT mais propulsé par le modèle de langage RWKV (100 % RNN) et est open source.

Un outil de gestion et de démarrage pour RWKV, entièrement automatisé, de seulement 8 Mo. Il fournit une interface compatible avec l'API OpenAI. RWKV est un modèle de langage étendu entièrement open source et disponible pour un usage commercial.

Wenda : une plateforme d'appel LLM. Conçue pour une génération de contenu efficace dans des environnements spécifiques, tout en tenant compte des limites de ressources informatiques des particuliers et des PME, ainsi que de la sécurité et de la confidentialité des données.

Construisez des modèles de langage à partir de zéro avec des bases en Python ; développez progressivement GLM4, Llama3 et RWKV6 pour approfondir votre compréhension des LLM.

Exécution de llama et d'autres grands modèles de langage sur iOS et MacOS hors ligne via la bibliothèque GGML.

Inférence INT4/INT5/INT8 et FP16 sur CPU pour le modèle de langage RWKV.

Prototype de LLM local pour Android 17 utilisant Jetpack Compose et ONNX Runtime pour des expériences d'inférence IA hors ligne.

La boîte d'exécution RWKV tout-en-un avec intégration, RAG, agents IA et plus encore.