dphnAI/sonar

大規模 LLM 推論引擎

↗ 在 GitHub 開啟

星數

1,847

Fork 數

210

語言

C++

授權

AGPL-3.0

最後推送

4 週前

C++machine-learning cuda lora inference-engine rocm intel api-rest speculative-decoding tpu inferentia

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。