llama2

[NeurIPS'23 Oral] GPT-4V स्तर की क्षमताओं और उससे आगे की ओर निर्मित Visual Instruction Tuning (LLaVA)।

Llama Cookbook में आपका स्वागत है! Llama के साथ निर्माण करने के लिए यह आपकी पसंदीदा मार्गदर्शिका है: इन्फेरेंस, फाइन-ट्यूनिंग, RAG के साथ शुरुआत करना। हम यह भी दिखाते हैं कि Llama मॉडल परिवार का उपयोग करके एंड-टू-एंड समस्याओं को कैसे हल किया जाए और विभिन्न प्रदाता सेवाओं पर उनका उपयोग कैसे किया जाए

क्लाउड में किसी भी ओपन-सोर्स LLM, जैसे DeepSeek और Llama, को OpenAI-संगत API एंडपॉइंट के रूप में चलाएं।

कस्टम LLMs, न्यूरल नेटवर्क और अन्य AI मॉडल बनाने के लिए लो-कोड फ्रेमवर्क

एक सेल्फ-होस्टेड, ऑफ़लाइन, ChatGPT जैसा चैटबॉट। Llama 2 द्वारा संचालित। 100% निजी, कोई भी डेटा आपके डिवाइस से बाहर नहीं जाता है। नया: Code Llama समर्थन!

LMDeploy LLMs को संपीड़ित करने, तैनात करने और सेवा देने के लिए एक टूलकिट है।

OpenCompass एक LLM evaluation platform है, जो 100+ से अधिक datasets पर विभिन्न प्रकार के models (Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude, आदि) का समर्थन करता है।

चाइनीज LLaMA-2 और Alpaca-2 LLM दूसरा चरण प्रोजेक्ट + 64K लॉन्ग कॉन्टेक्स्ट मॉडल (Chinese LLaMA-2 & Alpaca-2 LLMs with 64K long context models)

Firefly: लार्ज मॉडल ट्रेनिंग टूल, Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llma2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom आदि जैसे बड़े मॉडलों की ट्रेनिंग का समर्थन करता है

Enchanted, Ollama का उपयोग करके Llama2, Mistral या Vicuna जैसे प्राइवेट सेल्फ-होस्टेड भाषा मॉडल के साथ चैट करने के लिए iOS और macOS ऐप है।

H2O LLM Studio - LLMs को फाइन-ट्यून करने के लिए एक फ्रेमवर्क और नो-कोड GUI। दस्तावेज़: https://docs.h2o.ai/h2o-llmstudio/

Llama3-चीनी पोस्ट-ट्रेनिंग संस्करण

फॉल्ट-टॉलरेंट, अत्यधिक स्केलेबल GPU ऑर्केस्ट्रालेशन, और अरबों से खरबों पैरामीटर वाले मॉडल को प्रशिक्षित करने के लिए डिज़ाइन किया गया एक मशीन लर्निंग फ्रेमवर्क

Baichuan Intelligent Technology द्वारा विकसित बड़े भाषा मॉडल की एक श्रृंखला

चीनी NLP समाधान (लार्ज मॉडल, डेटा, मॉडल, ट्रेनिंग, इन्फेरेंस)

आपके स्थानीय डिवाइस पर LLM (🦙LLaMA/LLaVA) को कुशलतापूर्वक चलाने के लिए एक C#/.NET लाइब्रेरी।

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

वितरित LLM अनुमान। LLM अनुमान को तेज करने के लिए घरेलू उपकरणों को एक शक्तिशाली क्लस्टर में कनेक्ट करें। अधिक उपकरणों का मतलब है तेज़ अनुमान।

स्कैन किए गए PDF के त्रुटि सुधार, स्मार्ट चंकिंग और मार्कडाउन फ़ॉर्मेटिंग के लिए LLMs (स्थानीय या API) का उपयोग करके Tesseract OCR आउटपुट को बढ़ाता है

peft के साथ LLM फ़ाइनट्यूनिंग

✨ पूरी तरह से स्वायत्त AI एजेंट जो टर्मिनल, ब्राउज़र और एडिटर का उपयोग करके जटिल कार्य और प्रोजेक्ट कर सकता है।

ओपन लार्ज लैंग्वेज मॉडल के लिए OpenAI-शैली का API, ChatGPT की तरह LLM का उपयोग करें! LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 आदि के लिए समर्थन। ओपन-सोर्स बड़े मॉडल के लिए एकीकृत बैकएंड इंटरफ़ेस

एक सरल, निष्पादन-कुशल और स्केलेबल Jax LLM! dakṣh

TigerBot: एक बहु-भाषी बहु-कार्य LLM

Llama 2 को एक ही फ़ाइल में शुद्ध 🔥 के साथ इनफ़र करें

Aila(AI超元域): Windows, macOS और Android के लिए प्रमुख AI एकीकरण टूल। एक बार पूछें, ChatGPT, Gemini, Claude3, Copilot, Poe, perplexity जैसे 10+ AI से उत्तर प्राप्त करें। अनुकूलन योग्य AI और प्रॉम्प्ट की सुविधा।

कही से भी (Linux/Windows/Mac) GPU या CPU पर gradio UI के साथ स्थानीय रूप से कोई भी Llama 2 चलाएं। Generative Agents/Apps के लिए अपने स्थानीय llama2 बैकएंड के रूप में `llama2-wrapper` का उपयोग करें।

[ICML 2024] LLMCompiler: समानांतर फ़ंक्शन कॉलिंग के लिए एक LLM कंपाइलर

प्रोडक्शन के लिए RAG-आधारित LLM एप्लिकेशन बनाने के लिए एक व्यापक गाइड।

किसी भी LLM के लिए token/s और GPU मेमोरी आवश्यकता की गणना करें। llama.cpp/ggml/bnb/QLoRA क्वांटाइजेशन का समर्थन करता है