소유자 · weicj
weicj
weicj의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
리포지토리 1개
- #1
듀얼 RTX 2080 Ti 22GB + NVLink 환경을 위한 vLLM 런타임으로, FP8 가중치를 지원하며 Qwen 27B 모델에서 단일 요청 디코딩 시 최대 100+ tok/s의 로컬 추론 성능을 제공합니다.
★ 828+53최근 7일 스타 변화
weicj의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
듀얼 RTX 2080 Ti 22GB + NVLink 환경을 위한 vLLM 런타임으로, FP8 가중치를 지원하며 Qwen 27B 모델에서 단일 요청 디코딩 시 최대 100+ tok/s의 로컬 추론 성능을 제공합니다.