Các kho mã nguồn mở đang theo dõi của RahulSChand, sắp xếp theo số sao.
Tính toán tốc độ token/s và yêu cầu bộ nhớ GPU cho bất kỳ LLM nào. Hỗ trợ lượng tử hóa llama.cpp/ggml/bnb/QLoRA.
