on-device-ai

Servidor de inferencia LLM nativo en MLX Swift para Apple Silicon. API compatible con OpenAI, streaming SSD para modelos MoE de más de 100B, compresión de caché KV TurboQuant, aplicación para MACOS + iOS iPhone.

Motor de IA de borde en C++ de nivel de producción para análisis de video y VLM en dispositivo a través de Sophon, Rockchip RKNN y x86, con orquestación visual, OSD en tiempo real, eventos y benchmarks reproducibles.

Editor de método de entrada (IME) para Android basado en Whisper

Swiftlet es un entorno de ejecución de Swift y Metal que ejecuta modelos de mezcla de expertos Qwen de gran tamaño localmente en dispositivos Apple mediante la transmisión de pesos de expertos desde el almacenamiento, permitiendo ejecutar modelos de 35B y 80B con poca memoria RAM, incluso en iPhone.

SDK de IA local de código abierto: ejecute IA en el dispositivo sin nube ni claves API. Soporta GGUF, RAG, generación de imágenes, música y video, voz a texto, inferencia P2P y más. Multiplataforma: Linux, macOS, Windows, Android, iOS.

Motor neuronal en el dispositivo

Run MoE models bigger than your RAM. Frontier-size MoE on a 12 GB phone, CPU only, lossless, on stock llama.cpp

PennyWise lee automáticamente los SMS de transacciones y los transforma en datos financieros organizados con asistencia de IA en el dispositivo. Sin entrada manual, sin procesamiento en la nube, privacidad completa.

Generación de imágenes de forma local.

Biblioteca de detección de actividad de voz (VAD) para Android. Soporta modelos WebRTC VAD GMM, Silero VAD DNN y Yamnet VAD DNN.