Saltar al contenido principal
buildradar
Sign in

withcatai/node-llama-cpp

@withcatai

Ejecuta modelos de IA localmente en tu máquina con enlaces de node.js para llama.cpp. Aplica un esquema JSON en la salida del modelo a nivel de generación

Estrellas
2170
Bifurcaciones
215
Lenguaje
TypeScript
Licencia
MIT
Último push
hace 4 semanas
TypeScriptmetalnodejsaillmcudaself-hostedcmakegpuvulkanllamajson-schemabindingsggufllama-cppfunction-callinggrammarprebuilt-binariesembeddingcmake-jscatai

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.