Topik · high-performance-inference
high-performance-inference
Repositori open source terpantau bertanda high-performance-inference, diurutkan berdasarkan bintang.
Repositori
2
Total bintang
6.109
Rata-rata bintang
3.055
Porsi
0,00%
Topik terkait
Topik yang sering muncul berdampingan dengan high-performance-inference di repositori yang sama.
Yang sedang naik
Repositori yang dibuat dalam 90 hari terakhir dan bertanda high-performance-inference.
Tidak ada repositori baru bertanda topik ini dalam 90 hari terakhir.
- #1
Manajer klaster GPU untuk penyajian model AI berkinerja tinggi (vLLM, SGLang) dan instans GPU yang dapat diakses via SSH sesuai permintaan.
★ 5.593+21Perubahan bintang dalam 7 hari terakhir - #2
Krasis adalah runtime Hybrid LLM yang berfokus pada efisiensi menjalankan model yang lebih besar pada perangkat keras tingkat konsumen dengan VRAM terbatas
★ 519+2Perubahan bintang dalam 7 hari terakhir
