跳到主要内容
buildradar
Sign in

ModelTC/LightLLM

@ModelTC

LightLLM 是一个基于 Python 的 LLM(大型语言模型)推理与服务框架,以轻量化设计、易于扩展与高速性能著称

星数
4,260
Fork 数
359
语言
Python
许可
Apache-2.0
最后推送
6天前
Pythonllmdeep-learninggptnlpllamamodel-servingopenai-triton

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。