ardanlabs/kronk
@ardanlabs用于在本地运行开源模型的个人引擎。使用 Go 通过直接整合至 Go 应用程序中的 llama.cpp 与 whisper.cpp 进行硬件加速本地推理。Kronk 提供高阶 API 与模型服务器。
星数
799
Fork 数
60
语言
Go
许可
Apache-2.0
最后推送
20小时前
相关情报（0）
还没有相关情报
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。
用于在本地运行开源模型的个人引擎。使用 Go 通过直接整合至 Go 应用程序中的 llama.cpp 与 whisper.cpp 进行硬件加速本地推理。Kronk 提供高阶 API 与模型服务器。
radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。