Thema · cpu-inference
cpu-inference
Erfasste Open-Source-Repos mit dem Tag cpu-inference, sortiert nach Sternen.
Repos
3
Sterne gesamt
7.545
Sterne im Schnitt
2.515
Anteil
0,00%
Verwandte Themen
Themen, die häufig gemeinsam mit cpu-inference am selben Repo auftauchen.
Neue Aufsteiger
Repos, die in den letzten 90 Tagen erstellt und mit cpu-inference getaggt wurden.
- #1
Ein 2,78-Billionen-Parameter-Modell Kimi K3, das Inferenz auf einer einzigen CPU in 8,24 GB RAM ausführt. Tragbares C99: kein BLAS, kein Framework, keine GPU.
★ 7.161
- #1
Ein 2,78-Billionen-Parameter-Modell Kimi K3, das Inferenz auf einer einzigen CPU in 8,24 GB RAM ausführt. Tragbares C99: kein BLAS, kein Framework, keine GPU.
★ 7.161+442Sterne-Änderung der letzten 7 Tage - #2
Krasis ist eine hybride LLM-Laufzeitumgebung, die auf den effizienten Betrieb größerer Modelle auf Hardware mit begrenztem VRAM für Endverbraucher spezialisiert ist.
★ 518+2Sterne-Änderung der letzten 7 Tage - #3★ 510—Sterne-Änderung der letzten 7 Tage
