ardanlabs/kronk
@ardanlabsDeine persönliche Engine zum lokalen Ausführen von Open-Source-Modellen. Nutze Go für beschleunigte lokale Inferenz mit direkt in deine Go-Anwendungen integriertem llama.cpp und whisper.cpp. Kronk bietet eine High-Level-API und einen Modellserver.
Sterne
793
Forks
57
Sprache
Go
Lizenz
Apache-2.0
Letzter Push
vor 2 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.