mit-han-lab/duo-attention
@mit-han-lab[ICLR 2025] DuoAttention: Inferensi LLM konteks panjang yang efisien dengan kepala Retrieval dan Streaming.
Bintang
540
Fork
42
Bahasa
Python
Lisensi
MIT
Push terakhir
2 tahun yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.