InternLM/lmdeploy

LMDeploy 是一套用於壓縮、部署與服務 LLM 的工具組。

↗ 在 GitHub 開啟

星數

8,041

Fork 數

734

語言

Python

授權

Apache-2.0

最後推送

5 天前

Python llm llm-inference llama3 cuda-kernels deepspeed llama llama2 codellama internlm fastertransformer turbomind

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。