RWKV/rwkv.cpp

Inferência INT4/INT5/INT8 e FP16 em CPU para o modelo de linguagem RWKV

↗ Abrir no GitHub

Estrelas

1.579

Bifurcações

129

Linguagem

C++

Licença

MIT

Último push

há 1 ano

C++machine-learning llm deep-learning language-model quantization ggml rwkv

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.