跳到主要内容
buildradar
登录

efeslab/Nanoflow

@efeslab

一个针对 LLM 打造、以高吞吐量为导向的高性能服务框架

星数
975
Fork 数
53
语言
Jupyter Notebook
许可
最后推送
5个月前
Jupyter Notebookllmcudallama2inferencellm-servingmodel-serving

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。