rwkv

RWKV (pronuncia-se RwaKuv) é uma RNN com excelente desempenho em LLM, que também pode ser treinada diretamente como um transformer GPT (paralelizável). Estamos na versão RWKV-7 "Goose". Ele combina o melhor de RNN e transformer: ótimo desempenho, tempo linear, espaço constante (sem kv-cache), treinamento rápido, comprimento de contexto infinito e sentence embedding gratuito.

ChatRWKV é como o ChatGPT, mas alimentado pelo modelo de linguagem RWKV (100% RNN) e é de código aberto.

Uma ferramenta de gerenciamento e inicialização para RWKV, totalmente automatizada, com apenas 8MB. Fornece uma interface compatível com a API da OpenAI. RWKV é um modelo de linguagem grande totalmente open source e disponível para uso comercial.

Wenda: uma plataforma de chamada de LLM. Focada na geração eficiente de conteúdo para ambientes específicos, considerando as limitações de recursos computacionais de indivíduos e pequenas/médias empresas, além de questões de segurança e privacidade de dados.

Construa grandes modelos de linguagem do zero usando apenas conhecimentos básicos de Python; construa gradualmente GLM4, Llama3 e RWKV6 para compreender profundamente os princípios dos LLMs.

llama e outros grandes modelos de linguagem no iOS e MacOS offline usando a biblioteca GGML.

Inferência INT4/INT5/INT8 e FP16 em CPU para o modelo de linguagem RWKV

Protótipo de LLM local para Android 17 com Jetpack Compose e ONNX Runtime para experimentos de inferência de IA offline.

A caixa de execução RWKV tudo-em-um com incorporação, RAG, agentes de IA e muito mais.