Sujet · cpu-inference
cpu-inference
Dépôts open source suivis étiquetés cpu-inference, triés par étoiles.
Dépôts
2
Total d'étoiles
7 545
Étoiles en moyenne
3 773
Part
0,00%
Sujets associés
Sujets qui apparaissent souvent aux côtés de cpu-inference sur un même dépôt.
Ascensions récentes
Dépôts créés au cours des 90 derniers jours et étiquetés cpu-inference.
- #1
Kimi K3 avec 2,78 billions de paramètres exécutant l'inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
★ 7 157
- #1
Kimi K3 avec 2,78 billions de paramètres exécutant l'inférence sur un seul CPU avec 8,24 Go de RAM. C99 portable : sans BLAS, sans framework, sans GPU.
★ 7 157+493Évolution des étoiles sur les 7 derniers jours - #2
Krasis est un runtime LLM hybride axé sur l'exécution efficace de grands modèles sur du matériel grand public à VRAM limitée.
★ 518-1Évolution des étoiles sur les 7 derniers jours
