Tebmer

Dieses Repository sammelt Arbeiten für „A Survey on Knowledge Distillation of Large Language Models“. Wir unterteilen KD in Wissensbeschaffungs- und Distillationsalgorithmen und untersuchen die Fähigkeiten- und vertikale Distillation von LLMs.