vllm-project/vllm-ascend

Plugin de hardware mantido pela comunidade para vLLM em Ascend.

↗ Abrir no GitHub

Estrelas

2.749

Bifurcações

2.179

Linguagem

C++

Licença

Apache-2.0

Último push

há 1 semana

C++llm vllm transformer llmops inference mlops ascend llm-serving model-serving

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.