qwen3

Mesin inferensi dan serving ber-throughput tinggi serta hemat memori untuk LLM

MaxKB adalah platform agen tingkat perusahaan sumber terbuka yang canggih dan mudah digunakan.

Gunakan PEFT atau Full-parameter untuk CPT/SFT/DPO/GRPO 600+ LLM (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) dan 300+ MLLM (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Agent Reinforcement Trainer: melatih agen multi-langkah untuk tugas dunia nyata menggunakan GRPO. Berikan pelatihan langsung kepada agen Anda. Reinforcement learning untuk Qwen3.6, GPT-OSS, Llama, dan banyak lagi!

Jalankan LLM dan VLM terdepan secara lokal di perangkat Qualcomm melalui NPU, GPU, dan CPU hanya dengan beberapa baris kode

Alternatif Deep Research Open Source untuk Penalaran dan Pencarian pada Data Pribadi. Ditulis dengan Python.

Daftar pilihan makalah inferensi LLM/VLM dengan kode: Flash-Attention, Paged-Attention, WINT8/4, Paralelisme, dll.

Aplikasi macOS native yang memungkinkan pengguna mengobrol dengan LLM lokal yang dapat merespons dengan informasi dari file, folder, dan situs web di Mac Anda tanpa menginstal perangkat lunak lain. Didukung oleh llama.cpp.

Generator subtitel ASR/STT. Menggunakan Qwen3-ASR, LLM lokal, Whisper, dan TEN-VAD. Tahan bising untuk JAV

kubewall - Dasbor Kubernetes biner tunggal dengan manajemen multi-klaster & integrasi AI. (OpenAI / Claude 4 / Gemini / DeepSeek / OpenRouter / Ollama / Qwen / LMStudio)

Chat2API memungkinkan akses bebas biaya ke model AI terkemuka dengan memanfaatkan UI web resmi. Mendukung penyedia seperti DeepSeek, GLM, Kimi, MiniMax, Qwen, dan Z.ai, serta terintegrasi mulus dengan alat seperti openlcaw, Cline, dan Roo-Code.

Bicaralah dengan Mac Anda, kueri dokumen Anda, tidak perlu cloud. AI suara di perangkat + RAG

Alat bertenaga AI untuk penyaringan abstrak dan PDF yang efisien dalam tinjauan sistematis.

Qwen3.8-27B pada satu RTX 3090 dengan vLLM: ~1.000 tok/s pada 64 konkuren (GEMM tensor-core int8, status fp16 DeltaNet), ~114 tok/s pengguna tunggal pada sampling default / ~124 greedy (draft MTP, vocab draft output sendiri, lm_head int4 terkalibrasi, verifikasi attention split-KV), konteks 150k-262k; patch, skrip requant, benchmark

Framework Terbuka Penuh untuk Pelatihan Multimodal yang Didemokratisasi

Hasilkan gambar dari sudut pandang kamera mana pun melalui kontrol interaktif 3D. Geser kamera di ruang 3D atau gunakan slider untuk mengatur azimuth/elevasi/jarak, lalu hasilkan. Dibangun dengan Three.js + Gradio, antarmuka dwibahasa ZH/EN.

Gateway API Model Bahasa Besar - Sistem manajemen antarmuka AI LLM baru dan distribusi agregasi API, mendukung konversi berbagai LLM menjadi antarmuka standar yang kompatibel dengan OpenAI, Claude, dan Gemini, yang dapat digunakan untuk manajemen terpadu dan distribusi saluran API LLM pribadi atau perusahaan.

🚀 Pustaka pelatihan native Pytorch Distributed untuk LLM/VLM dengan dukungan bawaan Hugging Face

Metode input Pinyin yang didorong oleh model bahasa besar

🚀🚀🚀Kumpulan beberapa proyek publik hebat tentang Large Language Model (LLM), Vision Language Model (VLM), Vision Language Action (VLA), AI Generated Content (AIGC), serta Dataset dan Aplikasi terkait.

MimikaStudio - Aplikasi local-first untuk macOS (Apple Silicon) + dukungan Agentic MCP

Mesin inferensi LLM murni Rust + CUDA — tanpa PyTorch, kompatibel dengan OpenAI, melayani Qwen3 hingga Kimi-K2

Mesin inferensi mini qwen3-0.6B khusus CUDA batch tunggal statis yang suckless

Zig INferenCe Engine — Inferensi LLM lokal pada GPU AMD dan Apple Silicon