microsoft/sarathi-serve
@microsoftMesin penayangan latensi rendah & throughput tinggi untuk LLM
Bintang
521
Fork
67
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
8 bulan yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.