跳到主要内容
buildradar
Sign in

NVIDIA/Model-Optimizer

@NVIDIA

统一的 SOTA 模型优化技术库,如量化、蒸馏、修剪、神经网络架构搜索、推测解码等。可将深度学习模型压缩以供 TensorRT-LLM、TensorRT、vLLM 等下游部署框架使用,优化推理速度

星数
3,697
Fork 数
578
语言
Python
许可
Apache-2.0
最后推送
6天前
Python

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。