Wenyueh/MinivLLM
@WenyuehBasierend auf Nano-vLLM, eine einfache Replikation von vLLM mit in sich geschlossener Paged-Attention- und Flash-Attention-Implementierung
Sterne
1.020
Forks
172
Sprache
Python
Lizenz
Apache-2.0
Letzter Push
vor 2 Wochen
Verwandte Intel (0)
Noch keine verwandte Intel
Dieses Repo ist noch in keiner der vom Radar verfolgten Quellen aufgetaucht. Der Collector läuft nach Zeitplan — schau wieder vorbei, sobald er dieses Repo abdeckt.