dphnAI/sonar

大规模 LLM 推理引擎

↗ 在 GitHub 打开

星数

1,847

Fork 数

210

语言

C++

许可

AGPL-3.0

最后推送

4周前

C++machine-learning cuda lora inference-engine rocm intel api-rest speculative-decoding tpu inferentia

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。