ardanlabs/kronk
@ardanlabs오픈 소스 모델을 로컬에서 실행하기 위한 개인용 엔진. llama.cpp 및 whisper.cpp가 직접 통합된 Go 애플리케이션에서 하드웨어 가속 로컬 추론을 수행합니다. Kronk는 고수준 API와 모델 서버를 제공합니다.
스타
793
포크
57
언어
Go
라이선스
Apache-2.0
마지막 푸시
2일 전
관련 인텔 (0)
아직 관련 인텔이 없습니다
이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.