ardanlabs/kronk

Seu motor pessoal para executar modelos de código aberto localmente. Use Go para inferência local acelerada por hardware com llama.cpp e whisper.cpp integrados diretamente em suas aplicações Go. O Kronk fornece uma API de alto nível e um servidor de modelos.