본문으로 건너뛰기
buildradar
Sign in

FMInference/H2O

@FMInference

[NeurIPS'23] H2O: 대규모 언어 모델의 효율적인 생성 추론을 위한 Heavy-Hitter Oracle

스타
532
포크
89
언어
Python
라이선스
마지막 푸시
2년 전
Pythonlarge-language-modelshigh-throughputgpt-3heavy-hitterskv-cachesparsity

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.