Aller au contenu principal
buildradar
Sign in
Sujet · 4bit

4bit

Dépôts open source suivis étiquetés 4bit, triés par étoiles.

Dépôts
1
Total d'étoiles
1 138
Étoiles en moyenne
1 138
Part
0,00%

Sujets qui apparaissent souvent aux côtés de 4bit sur un même dépôt.

Ascensions récentes

Dépôts créés au cours des 90 derniers jours et étiquetés 4bit.

Aucun nouveau dépôt étiqueté avec ce sujet au cours des 90 derniers jours.

  • marlin@IST-DASLab

    Noyau d'inférence LLM FP16xINT4 capable d'atteindre des accélérations quasi idéales d'environ 4x pour des tailles de lots moyennes de 16 à 32 jetons.

    1 138+2Évolution des étoiles sur les 7 derniers jours
← Retour aux sujets