跳到主要内容
buildradar
Sign in

FasterDecoding/Medusa

@FasterDecoding

Medusa:通过多个解码头加速 LLM 生成的简单框架

星数
2,771
Fork 数
205
语言
Jupyter Notebook
许可
Apache-2.0
最后推送
2年前
Jupyter Notebookllmllm-inference

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。