Chủ sở hữu · sgl-project
sgl-project
Các kho mã nguồn mở đang theo dõi của sgl-project, sắp xếp theo số sao.
5 kho mã
- #1
SGLang là framework phục vụ hiệu suất cao cho các mô hình ngôn ngữ lớn và mô hình đa phương thức.
★ 33.538+791Thay đổi số sao trong 7 ngày qua - #2
Một bản cài đặt gọn nhẹ của SGLang, được thiết kế để làm sáng tỏ sự phức tạp của các hệ thống phục vụ LLM hiện đại.
★ 4.937+38Thay đổi số sao trong 7 ngày qua - #3
Huấn luyện các mô hình giải mã suy đoán một cách dễ dàng và chuyển chúng một cách mượt mà sang dịch vụ SGLang.
★ 1.144+14Thay đổi số sao trong 7 ngày qua - #4
SGLang-Omni hỗ trợ phục vụ hiệu suất cao cho TTS, ASR, các mô hình giọng nói và đa năng (omni).
★ 1.118+143Thay đổi số sao trong 7 ngày qua - #5
Tài liệu học tập SGLang
★ 886+5Thay đổi số sao trong 7 ngày qua
