मुख्य सामग्री पर जाएँ
buildradar
साइन इन करें

b4rtaz/distributed-llama

@b4rtaz

वितरित LLM अनुमान। LLM अनुमान को तेज करने के लिए घरेलू उपकरणों को एक शक्तिशाली क्लस्टर में कनेक्ट करें। अधिक उपकरणों का मतलब है तेज़ अनुमान।

स्टार
3,050
फ़ोर्क
248
भाषा
C++
लाइसेंस
MIT
आख़िरी push
2 माह पहले
C++llmllm-inferenceneural-networkllama3llmsllama2open-llmdistributed-computingdistributed-llm

अभी कोई संबंधित intel नहीं

यह रिपॉजिटरी radar द्वारा ट्रैक किए जाने वाले किसी भी स्रोत में अभी तक नहीं आई है। कलेक्टर एक शेड्यूल पर चलता है — जब यह इस रिपॉजिटरी को कवर करे तब वापस देखें।