xLLM-AI/xllm

Um motor de inferência de alto desempenho para modelos LLM, VLM, DiT e REC, otimizado para diversos aceleradores de IA. É hospedado na OpenAtom Foundation.

↗ Abrir no GitHub

Estrelas

1.552

Bifurcações

290

Linguagem

C++

Licença

Apache-2.0

Último push

há 6 dias

C++large-language-models llm-inference deepseek qwen inference glm inference-engine

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.

Intel relacionado (0)

Ainda não há intel relacionado