Lompat ke konten utama
buildradar
Masuk

Wenyueh/MinivLLM

@Wenyueh

Berdasarkan Nano-vLLM, replika sederhana dari vLLM dengan implementasi paged attention dan flash attention mandiri

Bintang
1.020
Fork
172
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
2 minggu yang lalu
Python

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.