thu-ml/SageAttention
@thu-ml[ICLR2025, ICML2025, NeurIPS2025 Spotlight] Quantized Attention mencapai percepatan 2-5x dibandingkan dengan FlashAttention, tanpa kehilangan metrik end-to-end pada model bahasa, gambar, dan video.
Bintang
3.699
Fork
498
Bahasa
Cuda
Lisensi
Apache-2.0
Push terakhir
8 bulan yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.