BlinkDL/RWKV-LM
@BlinkDLRWKV(RwaKuv로 발음)는 GPT 트랜스포머처럼 직접 학습(병렬화 가능)할 수 있으면서도 뛰어난 LLM 성능을 발휘하는 RNN입니다. 현재 RWKV-7 'Goose' 단계에 있습니다. 뛰어난 성능, 선형 시간, 상수 공간(kv-cache 없음), 빠른 학습, 무한한 ctx_len, 무료 문장 임베딩 등 RNN과 트랜스포머의 장점을 결합했습니다.
스타
14,695
포크
1,021
언어
Python
라이선스
Apache-2.0
마지막 푸시
1주 전
관련 인텔 (0)
아직 관련 인텔이 없습니다
이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.