zhihu/ZhiLight

Mesin akselerasi inferensi LLM yang sangat dioptimalkan untuk Llama dan variannya.

↗ Buka di GitHub

Bintang

908

Fork

104

Bahasa

C++

Lisensi

Apache-2.0

Push terakhir

6 bulan yang lalu

C++llm cuda gpt llm-inference pytorch llama inference-engine deepseek-r1 llm-serving model-serving

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.