メインコンテンツへスキップ
buildradar
Sign in

InternLM/lmdeploy

@InternLM

LMDeployは、LLMの圧縮、デプロイ、サービングのためのツールキットである。

スター
8,033
フォーク
733
言語
Python
ライセンス
Apache-2.0
最終プッシュ
3 日前
Pythonllmllm-inferencellama3cuda-kernelsdeepspeedllamallama2codellamainternlmfastertransformerturbomind

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。