Zum Hauptinhalt springen
buildradar
Sign in

withcatai/node-llama-cpp

@withcatai

Führe KI-Modelle lokal auf deinem Rechner aus mit Node.js-Bindings für llama.cpp. Erzwinge ein JSON-Schema für die Modellausgabe auf Generierungsebene.

Sterne
2.170
Forks
215
Sprache
TypeScript
Lizenz
MIT
Letzter Push
vor 4 Wochen
TypeScriptmetalnodejsaillmcudaself-hostedcmakegpuvulkanllamajson-schemabindingsggufllama-cppfunction-callinggrammarprebuilt-binariesembeddingcmake-jscatai

Noch keine verwandte Intel

Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.