Thema · high-performance-inference
high-performance-inference
Erfasste Open-Source-Repos mit dem Tag high-performance-inference, sortiert nach Sternen.
Repos
2
Sterne gesamt
6.109
Sterne im Schnitt
3.055
Anteil
0,00%
Verwandte Themen
Themen, die häufig gemeinsam mit high-performance-inference am selben Repo auftauchen.
Neue Aufsteiger
Repos, die in den letzten 90 Tagen erstellt und mit high-performance-inference getaggt wurden.
In den letzten 90 Tagen kam kein neues Repo mit diesem Thema dazu.
- #1
Ein GPU-Cluster-Manager für hochleistungsfähiges KI-Modell-Serving (vLLM, SGLang) und bedarfsgesteuerte GPU-Instanzen mit SSH-Zugang.
★ 5.593+32Sterne-Änderung der letzten 7 Tage - #2
Krasis ist eine hybride LLM-Laufzeitumgebung, die auf den effizienten Betrieb größerer Modelle auf Hardware mit begrenztem VRAM für Endverbraucher spezialisiert ist.
★ 516-1Sterne-Änderung der letzten 7 Tage
