ModelTC/LightLLM
@ModelTCLightLLM adalah framework inferensi dan penyajian LLM (Large Language Model) berbasis Python, yang dikenal karena desainnya yang ringan, skalabilitas yang mudah, dan performa berkecepatan tinggi.
Bintang
4.260
Fork
359
Bahasa
Python
Lisensi
Apache-2.0
Push terakhir
4 hari yang lalu
Intel terkait (0)
Belum ada intel terkait
Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.