Aller au contenu principal
buildradar
Sign in

feifeibear/LLMSpeculativeSampling

@feifeibear

Inférence rapide pour les grands modèles de langage via décodage spéculatif

Étoiles
926
Bifurcations
96
Langage
Python
Licence
Apache-2.0
Dernier push
il y a 2 ans
Python

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.