turboderp-org의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
최신 소비자용 GPU에서 로컬로 LLM을 실행하기 위한 빠른 추론 라이브러리입니다.
최신 소비자용 GPU에서 로컬로 LLM을 실행하기 위한 최적화된 양자화 및 추론 라이브러리
ExLlamaV2용 웹 UI