mudler

LocalAI एक ओपन-सोर्स AI इंजन है। किसी भी हार्डवेयर पर कोई भी मॉडल - LLM, विज़न, वॉइस, इमेज, वीडियो - चलाएं। GPU की आवश्यकता नहीं है।

:sailboat: बिना किसी सेंट्रल सर्वर और स्वचालित खोज के अपरिवर्तनीय, विकेंद्रीकृत, स्थिर रूप से निर्मित p2p VPN!

LocalAGI एक शक्तिशाली, सेल्फ-होस्ट करने योग्य AI Agent प्लेटफ़ॉर्म है जिसे अधिकतम गोपनीयता और लचीलेपन के लिए डिज़ाइन किया गया है। उन्नत एजेंट क्षमताओं के साथ OpenAI के Responses API का एक पूर्ण ड्रॉप-इन विकल्प। कोई क्लाउड नहीं। स्थानीय AI जो उपभोक्ता-ग्रेड हार्डवेयर (CPU और GPU) पर काम करता है।

:brain: WebUI वाले एजेंटों के लिए 100% स्थानीय मेमोरी लेयर और नॉलेज बेस

ggml के साथ C++ में Parakeet कार्यान्वयन।

ggml पर Nvidia LocateAnything-3B का पोर्ट।