InternLM/lmdeploy

LMDeploy es un conjunto de herramientas para comprimir, desplegar y servir LLMs.

↗ Abrir en GitHub

Estrellas

8041

Bifurcaciones

734

Lenguaje

Python

Licencia

Apache-2.0

Último push

hace 5 días

Python llm llm-inference llama3 cuda-kernels deepspeed llama llama2 codellama internlm fastertransformer turbomind

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.