ardanlabs/kronk

Công cụ cá nhân để chạy các mô hình mã nguồn mở cục bộ. Sử dụng Go để tăng tốc phần cứng cho suy luận cục bộ với llama.cpp và whisper.cpp được tích hợp trực tiếp vào ứng dụng Go của bạn. Kronk cung cấp API cấp cao và máy chủ mô hình.