RWKV/rwkv.cpp

Inferencia INT4/INT5/INT8 y FP16 en CPU para el modelo de lenguaje RWKV

↗ Abrir en GitHub

Estrellas

1579

Bifurcaciones

129

Lenguaje

C++

Licencia

MIT

Último push

hace 1 año

C++machine-learning llm deep-learning language-model quantization ggml rwkv

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.