turboderp-org/exllamav2
@turboderp-orgBibliothèque d'inférence rapide pour exécuter des LLM localement sur des GPU grand public modernes.
Étoiles
4 614
Bifurcations
341
Langage
Python
Licence
MIT
Dernier push
il y a 6 mois
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.