foldl/chatllm.cpp

Implementação em C++ puro de vários modelos para chat em tempo real no seu computador (CPU e GPU)

↗ Abrir no GitHub

Estrelas

921

Bifurcações

74

Linguagem

C++

Licença

MIT

Último push

há 3 dias

C++llm llm-inference

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.