qwen3

Un moteur d'inférence et de service à haut débit et économe en mémoire pour les LLM

MaxKB est une plateforme open source pour la création d'agents de niveau entreprise.

Utilisez PEFT ou le paramétrage complet pour CPT/SFT/DPO/GRPO sur plus de 600 LLM et 300 MLLM (AAAI 2025).

Agent Reinforcement Trainer : entraînez des agents multi-étapes pour des tâches réelles via GRPO. Offrez une formation en cours d'emploi à vos agents. Apprentissage par renforcement pour Qwen3.6, GPT-OSS, Llama et plus encore.

Exécutez des LLM et VLM de pointe localement sur des appareils Qualcomm via NPU, GPU et CPU avec quelques lignes de code.

Alternative open source de recherche approfondie à Reason, permettant d'effectuer des recherches sur des données privées. Écrit en Python.

Liste organisée d'articles de recherche sur l'inférence LLM/VLM avec code : Flash-Attention, Paged-Attention, WINT8/4, parallélisme, etc.

Une application macOS native permettant de discuter avec un LLM local capable de répondre à partir de fichiers, dossiers et sites web sur votre Mac sans installation supplémentaire. Propulsé par llama.cpp.

Générateur de sous-titres ASR/STT. Utilise Qwen3-ASR, LLM local, Whisper et TEN-VAD. Robuste face au bruit pour JAV.

kubewall - Tableau de bord Kubernetes en binaire unique avec gestion multi-cluster et intégration IA (OpenAI / Claude 4 / Gemini / DeepSeek / OpenRouter / Ollama / Qwen / LMStudio).

Chat2API permet un accès sans coût aux principaux modèles d'IA en exploitant les interfaces web officielles. Il prend en charge des fournisseurs tels que DeepSeek, GLM, Kimi, MiniMax, Qwen et Z.ai, et s'intègre parfaitement à des outils comme openlcaw, Cline et Roo-Code.

Interagissez avec votre Mac et interrogez vos documents sans cloud. IA vocale locale et RAG sur appareil.

Outil alimenté par l'IA pour le filtrage efficace des résumés et des PDF dans les revues systématiques.

Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks

Framework entièrement ouvert pour la démocratisation de l'entraînement multimodal.

🎬 Générez des images à partir de n'importe quel point de vue de caméra via un contrôle interactif 3D. Glissez la caméra dans l'espace 3D ou utilisez des curseurs pour définir l'azimut, l'élévation et la distance, puis générez. Construit avec Three.js et Gradio, interface bilingue ZH/EN.

Bibliothèque d'entraînement distribué native PyTorch pour LLM/VLM avec prise en charge immédiate de Hugging Face.

Méthode de saisie Pinyin pilotée par un grand modèle de langage.

Collection de projets publics remarquables sur les LLM, VLM, VLA, AIGC, ainsi que les jeux de données et applications associés.

Passerelle API pour grands modèles de langage (LLM) : un système de gestion et de distribution d'interfaces IA. Il permet de convertir divers modèles en interfaces compatibles OpenAI, Claude ou Gemini, facilitant la gestion centralisée des clés et la distribution pour les particuliers ou les entreprises. Supporte les principaux modèles (Gemini, Claude, Qwen3, Kimi-k2, Doubao, etc.). Fourni sous forme d'exécutable unique ou d'image Docker, prêt à l'emploi, open source et autonome. Basé sur New-API et One-API, il intègre toutes leurs fonctionnalités ainsi que de nombreux plugins tiers.

MimikaStudio - Une application locale pour macOS (Apple Silicon) avec prise en charge d'agents MCP.

Moteur d'inférence LLM en Rust pur et CUDA — sans PyTorch, compatible avec OpenAI, servant Qwen3 vers Kimi-K2.

Moteur de mini-inférence statique, suckless, mono-lot (single batch) et exclusivement CUDA pour qwen3-0.6B

Zig INferenCe Engine — Inférence de LLM locaux sur GPU AMD et Apple Silicon