rwkv

RWKV (pronunciado RwaKuv) es una RNN con un gran rendimiento en LLM, que también se puede entrenar directamente como un transformador GPT (paralelizable). Estamos en RWKV-7 "Goose". Combina lo mejor de RNN y transformer: gran rendimiento, tiempo lineal, espacio constante (sin caché kv), entrenamiento rápido, ctx_len infinito y embedding de oraciones gratuito.

ChatRWKV es como ChatGPT pero impulsado por el modelo de lenguaje RWKV (100% RNN) y es de código abierto.

Una herramienta de gestión e inicio para RWKV, totalmente automatizada y de solo 8 MB. Ofrece una interfaz compatible con la OpenAI API. RWKV es un modelo de lenguaje grande totalmente de código abierto y disponible para uso comercial.

Wenda: una plataforma de llamadas a LLM. Su objetivo es la generación eficiente de contenido para entornos específicos, teniendo en cuenta las limitaciones de recursos de cómputo de individuos y pequeñas y medianas empresas, así como los problemas de seguridad y privacidad del conocimiento.

Construye modelos de lenguaje grandes desde cero usando solo conocimientos básicos de Python; construye paso a paso GLM4\Llama3\RWKV6 y comprende a fondo los principios de los LLM

llama y otros modelos grandes de lenguaje en iOS y MacOS sin conexión utilizando la biblioteca GGML.

Inferencia INT4/INT5/INT8 y FP16 en CPU para el modelo de lenguaje RWKV

Prototipo de LLM local para Android 17 con Jetpack Compose y ONNX Runtime para experimentos de inferencia de IA sin conexión.

El entorno de ejecución todo en uno para RWKV con funciones de embed, RAG, agentes de IA y más.