on-device-ai

Herramientas listas para producción para ejecutar IA de forma local.

Modelo base de 14 MB para dispositivos pequeños; teléfonos, dispositivos portátiles, hogares inteligentes y robots.

Ejecuta LLMs y VLMs de vanguardia localmente en dispositivos Qualcomm a través de NPU, GPU y CPU con unas pocas líneas de código

Inferencia de Gemma 4 26B-A4B en ~2 GB de RAM en cualquier MacBook con chip de la serie M

LiteRT-LM es el marco de inferencia de código abierto, alto rendimiento y listo para producción de Google para desplegar Large Language Models en dispositivos periféricos.

Cuantización, núcleos, entorno de ejecución y motor de inferencia para dispositivos móviles, wearables, hogares inteligentes y robots.

IA bajo tu control: Elige tus modelos. Sé dueño de tus datos. Elimina la dependencia de proveedores.

Una herramienta de gestión de archivos impulsada por IA que garantiza la privacidad al organizar textos e imágenes locales. Utilizando los modelos Llama3.2 3B y Llava v1.6 con el SDK de Nexa, escanea, reestructura y organiza intuitivamente los archivos para un acceso rápido y fluido, y una fácil recuperación.

Ejecuta Claude Code 100% en el dispositivo con IA local en Apple Silicon. Servidor de API de Anthropic nativo de MLX. 6 luchadores incl. Muse-Glimmer 30B (ahora multimodal — lee imágenes, abliterado), Gemma 4 31B, Qwen 3.5 122B (65 tok/s), DeepSeek V4 Flash (1M ctx). Privado, sin conexión, listo para air-gap. Diseñado para flujos de trabajo de NDA / legales / de salud.

Mano-P: Agente GUI-VLA de código abierto para dispositivos edge. N.º 1 en OSWorld (especializado, 58.2%). Se ejecuta localmente en Mac mini/MacBook con Apple M4; ningún dato sale de tu dispositivo. Mano-P es un proyecto GUI-VLA de código abierto que admite la inferencia ejecutada localmente en Mac mini/MacBook o a través de aceleradores de cálculo, logrando operaciones de automatización de GUI multiplataforma impulsadas puramente por visión. Los datos se procesan completamente de forma local, admitiendo la planificación y ejecución de tareas complejas de múltiples pasos.

IA multimodal en tiempo real y en el dispositivo con funciones similares a GPT-Live

Zoo de modelos Core ML para iOS/macOS — modelos PyTorch convertidos a .mlpackage listos para usar, cada uno con un script de conversión y una aplicación de ejemplo SwiftUI. Repositorios hermanos cubren el framework Core AI de Apple (iOS/macOS 27) y LLMs en el dispositivo.

Forma declarativa de ejecutar modelos de IA en React Native en el dispositivo, impulsada por ExecuTorch.

Habla con tu Mac, consulta tus documentos, sin necesidad de la nube. IA de voz en el dispositivo + RAG.

[ICLR 2019] ProxylessNAS: Búsqueda directa de arquitectura neuronal en tareas y hardware objetivo

Ajuste fino de LLM en tu Mac con Apple Silicon. SFT, DPO, GRPO, Vision, TTS, STT, Embedding y ajuste fino de OCR, de forma nativa en MLX. API compatible con Unsloth.

Ejecución de LLM en el dispositivo en React Native con compatibilidad para Vercel AI SDK

PhoneClaw convierte teléfonos en entornos de ejecución de agentes de IA locales con modelos en el dispositivo, habilidades móviles nativas, LiveLand e inferencia opcional mediante Mac Gateway.

Laboratorio práctico para construir, probar y evaluar aplicaciones con el framework de modelos fundacionales de Apple.

Implementación oficial en PyTorch de "EdgeSAM: Prompt-In-the-Loop Distillation for On-Device Deployment of SAM"

NativeMind: tu asistente de IA totalmente privado, de código abierto y ejecutado en el dispositivo.

NobodyWho es un motor de inferencia que permite ejecutar LLMs local y eficientemente en cualquier dispositivo.

Muesli: transcripción y dictado de reuniones locales para macOS (alternativa a Granola y WisprFlow).

PokeClaw (PocketClaw): la primera IA en el dispositivo que controla tu teléfono Android. Gemma 4, sin nube, sin clave API. Poke es la abreviatura de Pocket.

[CVPR 2025] Implementación oficial en PyTorch de "EdgeTAM: On-Device Track Anything Model".

TinyChatEngine: Biblioteca de inferencia de LLM en el dispositivo.

Monitor de sistema para Apple Silicon sin necesidad de sudo (GUI nativa en SwiftUI) con seguimiento de ANE, Media Engine y ancho de banda de memoria

Asistente de IA de código abierto y centrado en lo local para tus datos. Unifica tareas, notas, documentos, fotos y marcadores. Privado, autohospedado y extensible mediante APIs.

Modelos Whisper optimizados para streaming y uso en dispositivos.

Capa de memoria de archivo único compartida para todos tus agentes, RAG sub-milisegundo sobre texto, fotos y videos en Apple Silicon. Sin servidor, sin API, un solo archivo, Swift puro.