mit-han-lab/TinyChatEngine

TinyChatEngine: Biblioteca de inferência de LLM em dispositivos

↗ Abrir no GitHub

Estrelas

961

Bifurcações

102

Linguagem

C++

Licença

MIT

Último push

há 2 anos

C++cpp deep-learning large-language-models c on-device-ai quantization x86-64 edge-computing arm cuda-programming

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.