InternLM/lmdeploy

LMDeploy é um toolkit para compressão, implantação e serviço de LLMs.

↗ Abrir no GitHub

Estrelas

8.041

Bifurcações

734

Linguagem

Python

Licença

Apache-2.0

Último push

há 5 dias

Python llm llm-inference llama3 cuda-kernels deepspeed llama llama2 codellama internlm fastertransformer turbomind

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.