MegEngine/InferLLM

Um framework leve para inferência de modelos LLM

↗ Abrir no GitHub

Estrelas

753

Bifurcações

93

Linguagem

C++

Licença

Apache-2.0

Último push

há 2 anos

C++llm mobile deeplearning inference

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.