qwen3

LLM के लिए एक हाई-थ्रूपुट और मेमोरी-कुशल इन्फेरेंस और सर्विंग इंजन

🔥 MaxKB एंकरप्राइज-ग्रेड एजेंट बनाने के लिए एक ओपन-सोर्स प्लेटफॉर्म है। 强大易用的开源企业级智能体平台。

600+ LLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) और 300+ MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) के लिए PEFT या Full-parameter का उपयोग करके CPT/SFT/DPO/GRPO करें (AAAI 2025)।

Agent Reinforcement Trainer: GRPO का उपयोग करके वास्तविक दुनिया के कार्यों के लिए मल्टी-स्टेप एजेंटों को प्रशिक्षित करें। अपने एजेंटों को ऑन-द-जॉब ट्रेनिंग दें। Qwen3.6, GPT-OSS, Llama और अन्य के लिए रीइन्फोर्समेंट लर्निंग।

कुछ ही लाइनों के कोड के साथ NPU, GPU और CPU पर Qualcomm उपकरणों पर स्थानीय रूप से फ्रंटियर LLMs और VLMs चलाएं

प्राइवेट डेटा पर रीज़न और सर्च के लिए ओपन सोर्स डीप रिसर्च विकल्प। Python में लिखा गया।

📚 कोड के साथ बेहतरीन LLM/VLM इन्फेरेंस पेपर्स की क्यूरेटेड सूची: Flash-Attention, Paged-Attention, WINT8/4, Parallelism, आदि।🎉

एक नेटिव macOS ऐप जो उपयोगकर्ताओं को किसी अन्य सॉफ़्टवेयर को इंस्टॉल किए बिना आपके मैक पर फ़ाइलों, फ़ोल्डरों और वेबसाइटों की जानकारी के साथ जवाब देने में सक्षम स्थानीय LLM के साथ चैट करने की अनुमति देता है। llama.cpp द्वारा संचालित।

ASR/STT उपशीर्षक जनरेटर। Qwen3-ASR, स्थानीय LLM, Whisper, TEN-VAD का उपयोग करता है। JAV के लिए शोर-रोधी

kubewall - मल्टी-क्लस्टर प्रबंधन और AI एकीकरण के साथ सिंगल-बाइनरी Kubernetes डैशबोर्ड। (OpenAI / Claude 4 / Gemini / DeepSeek / OpenRouter / Ollama / Qwen / LMStudio)

Chat2API आधिकारिक वेब UI का लाभ उठाकर अग्रणी AI मॉडल तक शून्य-लागत पहुंच सक्षम बनाता है। यह DeepSeek, GLM, Kimi, MiniMax, Qwen और Z.ai जैसे प्रदाताओं का समर्थन करता है, और openlcaw, Cline, और Roo-Code जैसे टूल के साथ सहजता से एकीकृत होता है।

अपने Mac से बात करें, अपने दस्तावेज़ों की क्वेरी करें, किसी क्लाउड की आवश्यकता नहीं है। ऑन-डिवाइस वॉइस AI + RAG

व्यवस्थित समीक्षाओं में कुशल सार (abstract) और PDF स्क्रीनिंग के लिए AI-संचालित टूल।

लोकतांत्रिक मल्टीमॉडल प्रशिक्षण के लिए पूर्ण रूप से ओपन फ्रेमवर्क

vLLM के साथ सिंगल RTX 3090 पर Qwen3.8-27B: 64 समवर्ती पर ~1,000 tok/s (int8 tensor-core GEMMs, fp16 DeltaNet state), डिफ़ॉल्ट सैंपलिंग पर ~114 tok/s सिंगल-यूज़र / ~124 ग्रीडी (MTP ड्राफ्ट, own-output draft vocab, कैलिब्रेटेड int4 lm_head, split-KV verify attention), 150k-262k संदर्भ; पैच, रीक्वांट स्क्रिप्ट, बेंचमार्क

लार्ज मॉडल API गेटवे - एक नया AI लार्ज मॉडल इंटरफ़ेस प्रबंधन और API एग्रीगेशन वितरण सिस्टम। यह विभिन्न लार्ज मॉडल्स को एकीकृत OpenAI-संगत इंटरफ़ेस, Claude इंटरफ़ेस, और Gemini इंटरफ़ेस में बदलने का समर्थन करता है। व्यक्तिगत या उद्यम उपयोग के लिए उपयुक्त, यह सभी मुख्यधारा के मॉडल्स (gemini, claude, qwen3, kimi-k2, doubao आदि) का समर्थन करता है। सिंगल एग्जीक्यूटेबल, डॉकर इमेज, वन-क्लिक डिप्लॉयमेंट और पूरी तरह से ओपन-सोर्स।

🎬 3D इंटरैक्टिव कंट्रोल के माध्यम से किसी भी कैमरा व्यू पॉइंट से इमेज जनरेट करें। 3D स्पेस में कैमरे को ड्रैग करें या एज़िमुथ/एलिवेशन/दूरी सेट करने के लिए स्लाइडर्स का उपयोग करें, फिर जनरेट करें। Three.js + Gradio के साथ निर्मित, द्विभाषी ZH/EN UI।

🚀 OOTB Hugging Face समर्थन के साथ LLMs/VLMs के लिए Pytorch डिस्ट्रीब्यूटेड नेटिव ट्रेनिंग लाइब्रेरी

लार्ज लैंग्वेज मॉडल द्वारा संचालित पिनयिन इनपुट मेथड

🚀🚀🚀 लार्ज लैंग्वेज मॉडल (LLM), विज़न लैंग्वेज मॉडल (VLM), विज़न लैंग्वेज एक्शन (VLA), AI जेनरेटेड कंटेंट (AIGC), और संबंधित डेटासेट व एप्लिकेशन के बारे में कुछ बेहतरीन सार्वजनिक प्रोजेक्ट्स का संग्रह।

MimikaStudio - macOS (Apple Silicon) के लिए एक लोकल-फर्स्ट एप्लिकेशन + Agentic MCP सपोर्ट

Pure Rust + CUDA LLM इन्फरेंस इंजन — कोई PyTorch नहीं, OpenAI-compatible, Qwen3 से Kimi-K2 तक सर्व करता है

स्टेटिक suckless सिंगल बैच CUDA-only qwen3-0.6B मिनी इन्फेरेंस इंजन

Zig INferenCe Engine — AMD GPU और Apple Silicon पर लोकल LLM इन्फरेंस