ModelCloud의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
HF, vLLM, SGLang을 통해 Nvidia, AMD, Intel GPU 및 Intel/AMD/Apple CPU의 하드웨어 가속을 지원하는 LLM 모델 양자화(압축) 툴킷.