跳到主要内容
buildradar
登录

jundot/omlx

@jundot

适用于 Apple Silicon 的 LLM 推理服务器,具持续批处理与 SSD 缓存功能,可从 macOS 菜单栏管理

星数
21,333
Fork 数
1,812
语言
Python
许可
Apache-2.0
最后推送
1周前
Pythonmacosllmopenai-apiapple-siliconmlxinference-server

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。