qwen3

Un motor de inferencia y servicio de alto rendimiento y eficiente en memoria para LLMs

🔥 MaxKB es una plataforma de código abierto para construir agentes de nivel empresarial.

Usa PEFT o parámetros completos para CPT/SFT/DPO/GRPO en más de 600 LLMs (Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) y más de 300 MLLMs (Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...) (AAAI 2025).

Agent Reinforcement Trainer: entrena agentes multipaso para tareas del mundo real utilizando GRPO. Dale a tus agentes entrenamiento práctico. ¡Aprendizaje por refuerzo para Qwen3.6, GPT-OSS, Llama y más!

Ejecuta LLMs y VLMs de vanguardia localmente en dispositivos Qualcomm a través de NPU, GPU y CPU con unas pocas líneas de código

Alternativa de código abierto de investigación profunda para razonar y buscar en datos privados. Escrito en Python.

📚 Una lista seleccionada de los mejores artículos de inferencia LLM/VLM con código: Flash-Attention, Paged-Attention, WINT8/4, paralelismo, etc. 🎉

Una aplicación nativa de macOS que permite a los usuarios chatear con un LLM local capaz de responder con información de archivos, carpetas y sitios web en tu Mac sin instalar ningún otro software. Desarrollado con llama.cpp.

Generador de subtítulos ASR/STT. Utiliza Qwen3-ASR, LLM local, Whisper, TEN-VAD. Robusto frente al ruido para JAV

kubewall - Dashboard de Kubernetes de un solo binario con gestión multiclúster e integración de IA. (OpenAI / Claude 4 / Gemini / DeepSeek / OpenRouter / Ollama / Qwen / LMStudio)

Chat2API permite el acceso sin costo a modelos de IA líderes aprovechando las interfaces web oficiales. Soporta proveedores como DeepSeek, GLM, Kimi, MiniMax, Qwen y Z.ai, e integra perfectamente con herramientas como openlcaw, Cline y Roo-Code.

Habla con tu Mac, consulta tus documentos, sin necesidad de la nube. IA de voz en el dispositivo + RAG.

Herramienta impulsada por IA para la revisión eficiente de resúmenes y archivos PDF en revisiones sistemáticas.

Framework totalmente abierto para el entrenamiento multimodal democratizado.

Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks

Genera imágenes desde cualquier punto de vista de cámara mediante control interactivo 3D. Arrastra la cámara en el espacio 3D o usa deslizadores para ajustar azimut, elevación y distancia. Construido con Three.js y Gradio, con interfaz bilingüe en chino e inglés.

大模型API网关-全新AI大模型接口管理与API聚合分发系统 , 支持将多种大模型转换成统一的OpenAI兼容接口,Claude接口,Gemini接口，可供个人或者企业内部大模型API 统一管理和渠道分发使用(key管理与二次分发)，支持国际国内所有主流大模型，gemini,claude,qwen3,kimi-k2,豆包等，提供单可执行文件， docker镜像，一键部署，开箱即用，完全开源，自主可控！本项目基于New-API和One-API，整合了NewAPI,OneAPI所有功能及众多第三方插件为一身，功能超强！

Biblioteca de entrenamiento nativo distribuido de Pytorch para LLMs/VLMs con soporte inmediato para Hugging Face

Método de entrada Pinyin impulsado por modelos de lenguaje grandes

Una colección de proyectos públicos sobre modelos de lenguaje extensos (LLM), modelos de lenguaje visual (VLM), acción de lenguaje visual (VLA), contenido generado por IA (AIGC), y sus conjuntos de datos y aplicaciones relacionados.

MimikaStudio: una aplicación local-first para macOS (Apple Silicon) con soporte para agentes MCP.

Motor de inferencia LLM en Rust puro + CUDA; sin PyTorch, compatible con OpenAI, sirve desde Qwen3 hasta Kimi-K2

Motor de inferencia estático, minimalista y solo para CUDA de qwen3-0.6B.

Zig INferenCe Engine: inferencia de LLM local en GPU AMD y Apple Silicon