InternLM/lmdeploy

LMDeploy adalah toolkit untuk mengompresi, mendistribusikan, dan melayani LLM.

↗ Buka di GitHub

Bintang

8.041

Fork

734

Bahasa

Python

Lisensi

Apache-2.0

Push terakhir

6 hari yang lalu

Python llm llm-inference llama3 cuda-kernels deepspeed llama llama2 codellama internlm fastertransformer turbomind

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.