flashinfer-ai/flashinfer

FlashInfer: Pustaka Kernel untuk LLM Serving

↗ Buka di GitHub

Bintang

6.321

Fork

1.380

Bahasa

Python

Lisensi

Apache-2.0

Push terakhir

6 hari yang lalu

Python cuda llm-inference pytorch jit gpu nvidia attention moe distributed-inference large-large-models

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.