turboderp-org/exllamav3
@turboderp-orgEine optimierte Quantisierungs- und Inferenzbibliothek zum lokalen Ausführen von LLMs auf modernen Consumer-GPUs
Sterne
1.267
Forks
146
Sprache
Python
Lizenz
MIT
Letzter Push
vor 6 Tagen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.