Chuyển tới nội dung chính
buildradar
Sign in

withcatai/node-llama-cpp

@withcatai

Chạy các mô hình AI cục bộ trên máy của bạn với node.js bindings cho llama.cpp. Áp đặt JSON schema lên đầu ra của mô hình ở cấp độ tạo văn bản.

Sao
2.170
Fork
215
Ngôn ngữ
TypeScript
Giấy phép
MIT
Push gần nhất
4 tuần trước
TypeScriptmetalnodejsaillmcudaself-hostedcmakegpuvulkanllamajson-schemabindingsggufllama-cppfunction-callinggrammarprebuilt-binariesembeddingcmake-jscatai

Chưa có intel liên quan

Kho mã này chưa xuất hiện trong bất kỳ nguồn nào radar theo dõi. Bộ thu thập chạy theo lịch — hãy quay lại khi nó bao quát kho mã này.