Chủ đề · inference-acceleration
inference-acceleration
Các kho mã nguồn mở đang theo dõi được gắn thẻ inference-acceleration, sắp xếp theo số sao.
Kho mã
4
Tổng số sao
9.747
Số sao trung bình
2.437
Tỷ trọng
0,00%
Chủ đề liên quan
Những chủ đề thường xuất hiện cùng inference-acceleration trên cùng một kho mã.
Mới nổi gần đây
Các kho mã tạo trong 90 ngày qua và được gắn thẻ inference-acceleration.
Không có kho mã mới nào gắn thẻ chủ đề này trong 90 ngày qua.
- #1
[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention đạt tốc độ xử lý nhanh hơn 2-5 lần so với FlashAttention, mà không làm giảm các chỉ số tổng thể trên các mô hình ngôn ngữ, hình ảnh và video.
★ 3.699+14Thay đổi số sao trong 7 ngày qua - #2
TurboDiffusion: Tăng tốc 100–200 lần cho các mô hình Video Diffusion
★ 3.634+6Thay đổi số sao trong 7 ngày qua - #3★ 1.371+2Thay đổi số sao trong 7 ngày qua
- #4
[ICML2025] SpargeAttention: Cơ chế chú ý thưa thớt không cần huấn luyện giúp tăng tốc suy luận của mọi mô hình.
★ 1.046+3Thay đổi số sao trong 7 ngày qua