withcatai/node-llama-cpp

Jalankan model AI secara lokal di mesin Anda dengan binding node.js untuk llama.cpp. Terapkan skema JSON pada output model di tingkat generasi

↗ Buka di GitHub

Bintang

2.170

Fork

215

Bahasa

TypeScript

Lisensi

MIT

Push terakhir

4 minggu yang lalu

TypeScript metal nodejs ai llm cuda self-hosted cmake gpu vulkan llama json-schema bindings gguf llama-cpp function-calling grammar prebuilt-binaries embedding cmake-js catai

Belum ada intel terkait

Repositori ini belum muncul di sumber mana pun yang dilacak radar. Kolektor berjalan sesuai jadwal — periksa kembali setelah mencakup repositori ini.