Aller au contenu principal
buildradar
Sign in

InternLM/lmdeploy

@InternLM

LMDeploy est une boîte à outils pour la compression, le déploiement et la mise en service de LLM.

Étoiles
8 041
Bifurcations
734
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 6 jours
Pythonllmllm-inferencellama3cuda-kernelsdeepspeedllamallama2codellamainternlmfastertransformerturbomind

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.