Tiiny-AI/PowerInfer

Serviço de Large Language Model de alta velocidade para implantação local

↗ Abrir no GitHub

Estrelas

9.758

Bifurcações

597

Linguagem

C++

Licença

MIT

Último push

há 4 meses

C++llm large-language-models llm-inference llama local-inference

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.