ModelTC/LightLLM
@ModelTCLightLLM é um framework de inferência e atendimento para LLMs (Modelos de Linguagem Grande) baseado em Python, notável por seu design leve, fácil escalabilidade e alto desempenho.
Estrelas
4.260
Bifurcações
359
Linguagem
Python
Licença
Apache-2.0
Último push
há 5 dias
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.