Các kho mã nguồn mở đang theo dõi của jmaczan, sắp xếp theo số sao.
Xây dựng công cụ suy luận LLM hiệu suất cao của riêng bạn bằng C++ và CUDA - một phiên bản nhỏ hơn của vLLM
