mit-han-lab/TinyChatEngine

TinyChatEngine: Biblioteca de inferencia de LLM en el dispositivo.

↗ Abrir en GitHub

Estrellas

961

Bifurcaciones

102

Lenguaje

C++

Licencia

MIT

Último push

hace 2 años

C++cpp deep-learning large-language-models c on-device-ai quantization x86-64 edge-computing arm cuda-programming

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.