विषय · cpu-inference

cpu-inference

cpu-inference टैग वाली ट्रैक की गई ओपन सोर्स रिपॉजिटरी, स्टार के हिसाब से क्रमबद्ध।

रिपॉजिटरी

कुल स्टार

7,233

औसत स्टार

3,617

हिस्सा

0.00%

वे विषय जो अक्सर एक ही रिपॉजिटरी पर cpu-inference के साथ आते हैं।

हाल में उभरे

पिछले 90 दिनों में बनी और cpu-inference टैग वाली रिपॉजिटरी।

#1
kimi-k3-in-c ↗@FareedKhan-devC
8.24 GB रैम में एक सिंगल CPU पर इन्फेरेंस चलाने वाला 2.78-खरब-पैरामीटर Kimi K3। पोर्टेबल C99: कोई BLAS नहीं, कोई फ्रेमवर्क नहीं, कोई GPU नहीं।
★ 6,871

#1
kimi-k3-in-c ↗@FareedKhan-devC
8.24 GB रैम में एक सिंगल CPU पर इन्फेरेंस चलाने वाला 2.78-खरब-पैरामीटर Kimi K3। पोर्टेबल C99: कोई BLAS नहीं, कोई फ्रेमवर्क नहीं, कोई GPU नहीं।
★ 6,871+485पिछले 7 दिनों में स्टार का बदलाव
#2
krasis ↗@brontoguanaC++
Krasis एक हाइब्रिड LLM रनटाइम है जो सीमित VRAM वाले उपभोक्ता-ग्रेड हार्डवेयर पर बड़े मॉडलों को कुशलतापूर्वक चलाने पर केंद्रित है
★ 516+3पिछले 7 दिनों में स्टार का बदलाव