Chen-zexi/vllm-cli

Una herramienta de interfaz de línea de comandos para servir LLMs usando vLLM.

↗ Abrir en GitHub

Estrellas

506

Bifurcaciones

29

Lenguaje

Python

Licencia

MIT

Último push

hace 7 meses

Python llm llm-inference llm-tools vllm

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.