Thema · 4bit

4bit

Erfasste Open-Source-Repos mit dem Tag 4bit, sortiert nach Sternen.

Repos

1

Sterne gesamt

1.138

Sterne im Schnitt

1.138

Anteil

0,00%

Themen, die häufig gemeinsam mit 4bit am selben Repo auftauchen.

Neue Aufsteiger

Repos, die in den letzten 90 Tagen erstellt und mit 4bit getaggt wurden.

In den letzten 90 Tagen kam kein neues Repo mit diesem Thema dazu.

#1
marlin ↗@IST-DASLabPython
FP16xINT4 LLM-Inferenz-Kernel, der bei mittleren Batchgrößen von 16-32 Token nahezu ideale 4-fache Geschwindigkeitssteigerungen erzielen kann.
★ 1.138+2Sterne-Änderung der letzten 7 Tage

← Zurück zu den Themen