Dépôts open source suivis de FasterDecoding, triés par étoiles.
Medusa : framework simple pour accélérer la génération LLM avec têtes de décodage multiples
