Chủ đề · high-performance-inference
high-performance-inference
Các kho mã nguồn mở đang theo dõi được gắn thẻ high-performance-inference, sắp xếp theo số sao.
Kho mã
2
Tổng số sao
6.109
Số sao trung bình
3.055
Tỷ trọng
0,00%
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng high-performance-inference trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ high-performance-inference.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
Trình quản lý cụm GPU dành cho việc phục vụ mô hình AI hiệu năng cao (vLLM, SGLang) và các instance GPU có thể truy cập SSH theo yêu cầu.
★ 5.593+21Thay đổi số sao trong 7 ngày qua - #2
Krasis là một runtime LLM lai tập trung vào việc chạy hiệu quả các mô hình lớn trên phần cứng tiêu dùng bị giới hạn VRAM
★ 518+2Thay đổi số sao trong 7 ngày qua
