BlinkDL

RWKV(RwaKuv로 발음)는 GPT 트랜스포머처럼 직접 학습(병렬화 가능)할 수 있으면서도 뛰어난 LLM 성능을 발휘하는 RNN입니다. 현재 RWKV-7 'Goose' 단계에 있습니다. 뛰어난 성능, 선형 시간, 상수 공간(kv-cache 없음), 빠른 학습, 무한한 ctx_len, 무료 문장 임베딩 등 RNN과 트랜스포머의 장점을 결합했습니다.

ChatRWKV는 ChatGPT와 유사하지만 RWKV(100% RNN) 언어 모델을 기반으로 하며 오픈소스입니다.

AI 소설 작성, 판타지 및 로맨스 웹소설 등 생성. 중국어 사전 학습 생성 모델. 내 RWKV 모델을 채택했으며 GPT-2와사 유사함. AI 글쓰기. 중국어 소설 생성을 위한 RWKV.