llama

llama3 इन्फरेंस को चरण-दर-चरण प्राप्त करें, मुख्य अवधारणाओं को समझें, प्रक्रिया व्युत्पत्ति में महारत हासिल करें और कोड लागू करें।

यह रिपॉजिटरी LlamaIndex, Deep Lake और Pinecone के साथ Generative AI के लिए Retrieval Augmented Generation (RAG) कोड बनाने के लिए प्रोग्राम प्रदान करती है, जो जनरेशन और इवैल्यूएशन के लिए OpenAI और Hugging Face मॉडल की शक्ति का लाभ उठाती है।

LLMs की आसान और कुशल फाइन-ट्यूनिंग। (LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon समर्थित)

kani (カニ) टूल-कॉलिंग भाषा मॉडल के लिए एक अत्यधिक हैकेबल माइक्रोफ्रेमवर्क है। (NLP-OSS @ EMNLP 2023)

क्या Copilots स्थानीय स्तर पर उपलब्ध हैं? कोड पूर्णता, प्रोजेक्ट जनरेशन, शेल सहायता और अन्य के लिए स्थानीय LLM Copilots की सीमा। आज ही उन उपकरणों को खोजें जो कल के डेवलपर अनुभव को आकार दे रहे हैं!

Go विथ योर ओन इंटेलिजेंस - Go एप्लिकेशन जो हार्डवेयर एक्सेलेरेशन का उपयोग करके स्थानीय इन्फरेंस के लिए सीधे llama.cpp को एकीकृत करते हैं

Yet Another Language Model: C++/CUDA में LLM अनुमान, I/O को छोड़कर कोई लाइब्रेरी नहीं

ओपन-सोर्स स्थानीय AI SDK - बिना क्लाउड, बिना API कुंजियों के डिवाइस पर AI चलाएं। GGUF, RAG, इमेज, म्यूजिक और वीडियो जनरेशन, स्पीच-टू-टेक्स्ट, P2P इन्फर्न्स और बहुत कुछ समर्थित है। क्रॉस-प्लेटफ़ॉर्म: Linux, macOS, Windows, Android, iOS।

Groq, Cartesia और Vercel द्वारा संचालित तेज़ वॉयस असिस्टेंट।

[ECCV2024] स्थानीयकृत विजुअल टोकराइजेशन के साथ ग्राउंडेड मल्टीमॉडल लार्ज लैंग्वेज मॉडल

TensorFlow का उपयोग करके टेक्स्ट प्रीप्रोसेसिंग से लेकर Topic Models, BERT, GPT और LLM जैसे आधुनिक मॉडलों के डाउनस्ट्रीम कार्यों को व्यवस्थित करने वाला एक डीप लर्निंग NLP रिपॉजिटरी।

लोकल AI असिस्टेंट

LLaVA-Mini एक एकीकृत बड़ा मल्टीмодальный मॉडल (LMM) है जो छवियों, उच्च-रिज़ॉल्यूशन छवियों और वीडियो की समझ को कुशलता से समर्थन कर सकता है।

AnglE के साथ शक्तिशाली सेंटेंस एम्बेडिंग को ट्रेन और इन्फर करें | STS और MTEB लीडरबोर्ड पर SOTA

Visual Studio Code और Continue एक्सटेंशन के साथ Code Llama का उपयोग करें। GitHub Copilot का एक स्थानीय LLM विकल्प।

LLM-आधारित मल्टी-एजेंट रीइन्फोर्स्ड ट्रेनिंग और इन्फरेंस के लिए एक फ्रेमवर्क

Chat snowflake - टेक्स्ट टू SQL

🏗️ ओपन-सोर्स LLMs को आसानी से फाइन-ट्यून, बिल्ड और डिप्लॉय करें!

[ICML 2024] LESS: लक्षित इंस्ट्रक्शन ट्यूनिंग के लिए प्रभावशाली डेटा का चयन।

दैनिक कार्यों में सहायता के लिए AI-संचालित असिस्टेंट, जो Llama 3, DeepSeek R1 और HuggingFace पर उपलब्ध कई अन्य मॉडलों द्वारा संचालित है

एक रिएक्टिव CLI जो Ollama, ChatGPT, Gemini, Claude, Mistral और अन्य AI का उपयोग करके Git और Jujutsu के लिए कमिट मैसेज जेनरेट करता है

आपके डिवाइस पर आपकी लोकल आर्टिफिशियल मेमोरी

LLMs के लिए एक लो-लेटेंसी और हाई-थ्रूपुट सर्विंग इंजन

[ACL 2024] ब्लॉक एक्सपेंशन के साथ प्रगतिशील LLaMA।

RESTai एक ओपन-सोर्स AIaaS (AI as a Service) प्लेटफॉर्म है। यह Ollama/vLLM द्वारा समर्थित कई सार्वजनिक और स्थानीय LLM का समर्थन करता है, जिसमें एम्बेडिंग, ट्यूनिंग, एनालिटिक्स और इमेज/ऑडियो जनरेशन शामिल है।

ओपन सोर्स, लोकल और सेल्फ-होस्टेड अत्यधिक अनुकूलित लैंग्वेज इन्फरेंस सर्वर, जो WebRTC, REST और WS पर ASR/STT, TTS और LLM का समर्थन करता है।

यह रिपॉजिटरी कुछ बेहतरीन सार्वजनिक CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX और High Performance Computing (HPC) प्रोजेक्ट्स की सूची है।

Open Model Engine (OME) — Kubernetes operator for LLM serving, GPU scheduling, and model lifecycle management. Works with SGLang, vLLM, TensorRT-LLM, and Triton