rwkv

RWKV(RwaKuv로 발음)는 GPT 트랜스포머처럼 직접 학습(병렬화 가능)할 수 있으면서도 뛰어난 LLM 성능을 발휘하는 RNN입니다. 현재 RWKV-7 'Goose' 단계에 있습니다. 뛰어난 성능, 선형 시간, 상수 공간(kv-cache 없음), 빠른 학습, 무한한 ctx_len, 무료 문장 임베딩 등 RNN과 트랜스포머의 장점을 결합했습니다.

ChatRWKV는 ChatGPT와 유사하지만 RWKV(100% RNN) 언어 모델을 기반으로 하며 오픈소스입니다.

RWKV 관리 및 시작 도구, 완전 자동화, 용량 단 8MB. OpenAI API와 호환되는 인터페이스 제공. RWKV는 완전 오픈소스이며 상업적 사용이 가능한 대형 언어 모델입니다.

웬다(闻达): LLM 호출 플랫폼. 개인 및 중소기업의 컴퓨팅 자원 한계, 지식 보안 및 프라이버시 문제를 고려하여 특정 환경에 맞는 고효율 콘텐츠 생성을 목표로 합니다.

Python 기초만으로 바닥부터 LLM 구축하기; GLM4, Llama3, RWKV6를 단계별로 구현하며 대규모 언어 모델의 원리 심층 이해

GGML 라이브러리를 사용하여 iOS 및 macOS에서 오프라인으로 실행되는 llama 및 기타 대규모 언어 모델

RWKV 언어 모델을 위한 CPU 기반 INT4/INT5/INT8 및 FP16 추론

오프라인 AI 추론 실험을 위해 Jetpack Compose와 ONNX Runtime을 사용한 안드로이드 17 로컬 LLM 프로토타입

임베딩, RAG, AI 에이전트 등을 포함한 올인원 RWKV 런타임 박스