thu-ml/SpargeAttn

[ICML2025] SpargeAttention: Perhatian jarang tanpa pelatihan yang mempercepat inferensi model apa pun.

↗ Buka di GitHub

Bintang

1.047

Fork

104

Bahasa

Cuda

Lisensi

Apache-2.0

Push terakhir

6 bulan yang lalu

Cuda video-generation llm quantization attention vision-transformer sparse-attention vit ai-infra inference-acceleration mlsys sageattention

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.