ardanlabs/kronk

オープンソースモデルをローカルで実行するためのパーソナルエンジン。llama.cpp と whisper.cpp が Go アプリケーションに直接統合されており、Go を使用してハードウェアアクセラレーションによるローカル推論を実行できます。Kronk は高水準 API とモデルサーバーを提供します。