Sujet · high-performance-inference
high-performance-inference
Dépôts open source suivis étiquetés high-performance-inference, triés par étoiles.
Dépôts
2
Total d'étoiles
6 109
Étoiles en moyenne
3 055
Part
0,00%
Sujets associés
Sujets qui apparaissent souvent aux côtés de high-performance-inference sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés high-performance-inference.
Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.
- #1
Un gestionnaire de cluster GPU pour le service de modèles d'IA haute performance (vLLM, SGLang) et des instances GPU accessibles par SSH à la demande.
★ 5 593+21Évolution des étoiles sur les 7 derniers jours - #2
Krasis est un runtime LLM hybride axé sur l'exécution efficace de grands modèles sur du matériel grand public à VRAM limitée.
★ 519+2Évolution des étoiles sur les 7 derniers jours
