vllm-project/speculators
@vllm-projectMột thư viện thống nhất để xây dựng, đánh giá và lưu trữ các thuật toán giải mã suy đoán cho suy luận LLM trong vLLM
Sao
815
Fork
214
Ngôn ngữ
Python
Giấy phép
Apache-2.0
Push gần nhất
2 ngày trước
Intel liên quan (0)
Chưa có intel liên quan
Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.