gpt-oss

Comienza a trabajar rápidamente con Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma y otros modelos.

Un motor de inferencia y servicio de alto rendimiento y eficiente en memoria para LLMs

SGLang es un marco de servicio de alto rendimiento para modelos de lenguaje grande y modelos multimodales.

[MLsys2026]: RAG en todo con LEANN. Disfruta de un 97% de ahorro en almacenamiento mientras ejecutas una aplicación RAG rápida, precisa y 100% privada en tu dispositivo personal.

¡Ajusta, evalúa y despliega fácilmente Qwen, Gemma o cualquier LLM de pesos abiertos!

Ejecuta LLMs y VLMs de vanguardia localmente en dispositivos Qualcomm a través de NPU, GPU y CPU con unas pocas líneas de código

Un motor de entrenamiento de próxima generación diseñado para modelos MoE ultra grandes

Una aplicación nativa de macOS que permite a los usuarios chatear con un LLM local capaz de responder con información de archivos, carpetas y sitios web en tu Mac sin instalar ningún otro software. Desarrollado con llama.cpp.

Un potente plugin de Zotero con IA y MCP compatible con ChatGPT, Gemini 3.6, Claude Fable 5, Claude Sonnet 5, DeepSeek V4, Grok, OpenRouter, Kimi k3, GLM 5.2, SiliconFlow, GPT-oss, Gemma 4 y Qwen 3.7

TokenSpeed es un motor de inferencia de LLM a la velocidad de la luz.

Aplicación de IA local y motor de inferencia para agentes. Ejecuta LLMs de pesos abiertos localmente: privado, 100% sin conexión en tu computadora. Únete a nuestro Discord: https://discord.com/invite/8wGSsvmg4V

Estación de trabajo ligera para agentes con Codex CLI + Claude Code, incluye programador de tareas, git worktree y control remoto.

Biblioteca de entrenamiento nativo distribuido de Pytorch para LLMs/VLMs con soporte inmediato para Hugging Face

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp