Tebmer/Awesome-Knowledge-Distillation-of-LLMs

此存储库收集了“Large Language Model 知识蒸馏调查”的相关论文。我们将知识蒸馏（KD）拆解为知识引出与蒸馏算法，并探讨 LLM 的技能与垂直蒸馏。

↗ 在 GitHub 打开

星数

1,310

Fork 数

74

语言

—

许可

—

最后推送

2年前

llm data-synthesis alignment feedback survey knowledge-distillation compression large-language-model multi-modal instruction-following data-augmentation self-distillation supervised-finetuning kd self-training

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。