Pular para o conteúdo principal
buildradar
Sign in

withcatai/node-llama-cpp

@withcatai

Execute modelos de IA localmente em sua máquina com bindings de Node.js para llama.cpp. Aplique um esquema JSON na saída do modelo no nível de geração.

Estrelas
2.170
Bifurcações
215
Linguagem
TypeScript
Licença
MIT
Último push
há 4 semanas
TypeScriptmetalnodejsaillmcudaself-hostedcmakegpuvulkanllamajson-schemabindingsggufllama-cppfunction-callinggrammarprebuilt-binariesembeddingcmake-jscatai

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.