Erfasste Open-Source-Repos von FasterDecoding, sortiert nach Sternen.
Medusa: Einfaches Framework zur Beschleunigung der LLM-Generierung mit mehreren Decoding-Heads