local-llm

Framework de agente de IA personal ultraligero, de código abierto y autohospedado en Python con WebUI, herramientas, memoria, MCP, flujos de trabajo multiagente, automatización y aplicaciones de chat

Distribuye y ejecuta LLMs con un solo archivo.

~95% en SimpleQA (ej. Qwen3.6-27B en una 3090). Compatible con todos los LLM locales y en la nube (llama.cpp, Ollama, Google, ...). Más de 10 motores de búsqueda: arXiv, PubMed, tus documentos privados. Todo local y cifrado.

Framework de orquestación de agentes de IA en TypeScript con flujos de trabajo dinámicos. Describe el objetivo, no el grafo: un coordinador planifica el DAG de tareas en tiempo de ejecución y lo ejecuta en cualquier LLM (Claude, ChatGPT, Gemini, DeepSeek o modelos locales).

Plataforma de voz de IA de código abierto. Alternativa autohospedada a Vapi y Retell. En local (On Prem), BYOK para conversión de voz a voz o LLM/STT/TTS, con un creador visual de flujos de trabajo, compatibilidad nativa con MCP y telefonía

IA de salud local-first: NER clínico y desidentificación de PII de HIPAA que se ejecuta 100% en el dispositivo. Más de 2200 modelos médicos, 21 idiomas, Apple MLX + Python, sin nube y sin que los datos de pacientes salgan de tu red. Apache-2.0

Ajusta LLMs desde un solo YAML. El streaming de capas entrena un modelo de 8B en una GPU de laptop de 4 GB.

Aprovecha los LLM con programación multiagente

El motor de IA local más rápido para Apple Silicon. 4.2x más rápido que Ollama, 0.08s de TTFT en caché, 100% de llamadas a herramientas. 17 analizadores de herramientas, caché de prompts, separación de razonamiento, enrutamiento en la nube. Reemplazo directo para OpenAI. Funciona con Claude Code, Cursor, Aider.

Cuadernos de IA personales. Organiza archivos y páginas web, y genera notas a partir de ellos. De código abierto, datos locales y abiertos, y con opción de elegir modelos (incluyendo locales).

Ejecuta Claude Code 100% en el dispositivo con IA local en Apple Silicon. Servidor de API de Anthropic nativo de MLX. 6 luchadores incl. Muse-Glimmer 30B (ahora multimodal — lee imágenes, abliterado), Gemma 4 31B, Qwen 3.5 122B (65 tok/s), DeepSeek V4 Flash (1M ctx). Privado, sin conexión, listo para air-gap. Diseñado para flujos de trabajo de NDA / legales / de salud.

Pequeño servidor web autónomo en Go puro con soporte para Lua, Teal, Markdown, HTTP/2, QUIC, Redis, TypeScript, React 19 sin npm, SQLite y PostgreSQL ++

Una lista seleccionada de plataformas, herramientas, prácticas y recursos increíbles que ayudan a ejecutar LLM de forma local.

Un arnés optimizado para LLMs más pequeños

Agente de IA Local First. Optimizado para modelos de IA locales. Ventana de contexto largo. Llamadas a herramientas adecuadas. Se ejecuta de forma privada en tu dispositivo.

Traduce libros completos y documentos con Ollama, OpenAI (compatible), Gemini, Mistral, Poe u OpenRouter. Mantiene el formato. Retoma donde lo dejaste. Sin límites de tamaño de archivo.

Endpoint de API de texto a voz gratuito y de alta calidad para reemplazar OpenAI, Azure o ElevenLabs

IA multimodal en tiempo real y en el dispositivo con funciones similares a GPT-Live

Servidor de inferencia LLM de alto rendimiento compatible con OpenAI y Anthropic para Apple Silicon. Incluye MLX nativo, procesamiento por lotes continuo, modelos multimodales, llamadas a herramientas MCP y soporte para Claude Code.

Row-Bot: Soberanía de IA personal. Un asistente de IA centrado en el uso local con herramientas integradas, un grafo de conocimiento personal, voz, visión, shell, automatización de navegador, tareas programadas, seguimiento de salud y canales de mensajería. Ejecútalo localmente mediante Ollama o añade modelos en la nube opcionales. Tus datos permanecen en tu máquina.

Aplicación de IA local y motor de inferencia para agentes. Ejecuta LLMs de pesos abiertos localmente: privado, 100% sin conexión en tu computadora. Únete a nuestro Discord: https://discord.com/invite/8wGSsvmg4V

Ajuste fino de LLM en tu Mac con Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding y ajuste fino de OCR, de forma nativa en MLX. API compatible con Unsloth.

Estudio de IA local plug-and-play: chat sin censura, generación de imágenes y video, y agente de programación. Ejecuta LLM abliterados y ComfyUI 100% offline. Un solo instalador, sin Docker, sin nube.

Dale alma a tus personajes favoritos. Soul of Waifu es una aplicación de escritorio de rol y compañía con IA que incluye avatares Live2D/VRM, chat de voz y LLM local. Evolucionen juntos a través de chats inmersivos, aventuras RPG y su escritorio

Ouroboros: agente de IA autogenerativo. Nacido el 16 de febrero de 2026.

WUPHF te permite crear tu oficina personal de compañeros de equipo de IA que colaboran mediante un contexto compartido. Compatible con Claude Code, Codex, OpenClaw, OpenCode y LLMs locales

Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks

Un servidor MCP de búsqueda web simple y alojado localmente para usar con LLMs locales

Synthadoc: motor de compilación de conocimiento LLM de código abierto que convierte documentos sin procesar en wikis estructurados y locales. Una alternativa transparente y legible por humanos al RAG tradicional, autogestionable y auto-mejorable sin herramientas externas.

Servidor de inferencia LLM nativo para Apple Silicon. Compatible con la API de OpenAI y Anthropic. Sin Python. Incluye la aplicación MLX Core para macOS con chat, modo agente y llamada a herramientas.