ardanlabs/kronk
@ardanlabs用於在本地執行開源模型的個人引擎。使用 Go 透過直接整合至 Go 應用程式中的 llama.cpp 與 whisper.cpp 進行硬體加速本地推論。Kronk 提供高階 API 與模型伺服器。
星數
799
Fork 數
60
語言
Go
授權
Apache-2.0
最後推送
19 小時前
相關情報（0）
還沒有相關情報
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。
用於在本地執行開源模型的個人引擎。使用 Go 透過直接整合至 Go 應用程式中的 llama.cpp 與 whisper.cpp 進行硬體加速本地推論。Kronk 提供高階 API 與模型伺服器。
radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。