RahulSChand의 추적 중인 오픈소스 리포지토리를 스타 수 순으로 보여줘요.
모든 LLM의 토큰/초 및 GPU 메모리 요구량을 계산합니다. llama.cpp/ggml/bnb/QLoRA 양자화 지원