Chen-zexi/vllm-cli

Uma ferramenta de interface de linha de comando para servir LLM usando vLLM.

↗ Abrir no GitHub

Estrelas

505

Bifurcações

29

Linguagem

Python

Licença

MIT

Último push

há 7 meses

Python llm llm-inference llm-tools vllm

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.