local-llm

Framework d'agent IA personnel ultra-léger, open source et auto-hébergé en Python avec interface Web, outils, mémoire, MCP, flux de travail multi-agents, automatisation et applications de chat

Distribuez et exécutez des LLM avec un seul fichier.

~95 % sur SimpleQA (par ex. Qwen3.6-27B sur une 3090). Prend en charge tous les LLM locaux et cloud (llama.cpp, Ollama, Google, ...). Plus de 10 moteurs de recherche - arXiv, PubMed, vos documents privés. Tout est local et chiffré.

Framework d'orchestration d'agents IA en TypeScript avec workflows dynamiques. Décrivez l'objectif plutôt que le graphe : un coordinateur planifie le DAG des tâches à l'exécution sur n'importe quel LLM (Claude, ChatGPT, Gemini, DeepSeek ou modèles locaux).

Plateforme IA vocale open source. Alternative auto-hébergée à Vapi et Retell. Déploiement sur site, BYOK pour Speech-to-Speech ou LLM/STT/TTS, avec un constructeur de workflow visuel, support natif MCP et téléphonie.

IA de santé locale : reconnaissance d'entités nommées cliniques et désidentification PII HIPAA fonctionnant à 100 % sur l'appareil. Plus de 2 200 modèles médicaux, 21 langues, Apple MLX + Python, sans cloud, aucune donnée patient ne quitte votre réseau. Apache-2.0

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

Exploiter les LLM avec la programmation multi-agents

Le moteur d'IA local le plus rapide pour Apple Silicon. 4,2x plus rapide qu'Ollama, 0,08s de TTFT mis en cache, 100% d'appel d'outils. 17 analyseurs d'outils, cache de prompt, séparation du raisonnement, routage cloud. Remplacement direct d'OpenAI. Fonctionne avec Claude Code, Cursor, Aider.

Carnets de notes IA personnels. Organisez vos fichiers et pages web pour générer des notes. Open source, données locales et ouvertes, choix de modèles ouvert (y compris local).

Exécutez Claude Code à 100 % sur l'appareil avec une IA locale sur Apple Silicon. Serveur Anthropic-API natif MLX. Inclut 6 modèles dont Muse-Glimmer 30B (désormais multimodal, lit les images, abliterated), Gemma 4 31B, Qwen 3.5 122B (65 tok/s), DeepSeek V4 Flash (1M ctx). Privé, hors ligne, prêt pour les environnements isolés. Conçu pour les flux de travail juridiques, de santé ou sous NDA.

Petit serveur web autonome en pur Go avec support pour Lua, Teal, Markdown, HTTP/2, QUIC, Redis, TypeScript, React 19 sans npm, SQLite et PostgreSQL.

Une liste organisée de plateformes, outils, pratiques et ressources pour exécuter des LLM localement

Un harnais optimisé pour les LLM plus petits.

Agent IA local. Optimisé pour les modèles d'IA locaux. Longue fenêtre de contexte. Appels d'outils appropriés. Fonctionne de manière privée sur votre appareil.

Traduisez des livres et documents complets avec Ollama, OpenAI (compatible), Gemini, Mistral, Poe ou OpenRouter. Préserve le formatage. Reprend là où vous vous étiez arrêté. Aucune limite de taille de fichier.

Point de terminaison d'API de synthèse vocale gratuit et de haute qualité pour remplacer OpenAI, Azure ou ElevenLabs.

IA multimodale en temps réel sur appareil, avec des fonctionnalités similaires à GPT-Live

Serveur d'inférence LLM haute performance compatible OpenAI et Anthropic pour Apple Silicon. Support natif MLX, traitement par lots continu, modèles multimodaux, appel d'outils MCP et support de Claude Code.

Row-Bot - Souveraineté IA personnelle. Un assistant IA local avec outils intégrés, graphe de connaissances personnel, voix, vision, shell, automatisation de navigateur, tâches planifiées, suivi de santé et canaux de messagerie. Exécution locale via Ollama ou modèles cloud optionnels. Vos données restent sur votre machine.

Application d'IA locale et moteur d'inférence pour agents. Exécutez des LLM à poids ouverts localement — privé, 100 % hors ligne sur votre ordinateur.

Fine-tuning de LLM sur Mac avec Apple Silicon. Support natif MLX pour SFT, DPO, GRPO, Vision, TTS, STT, Embedding et OCR. API compatible avec Unsloth.

Studio d'IA local prêt à l'emploi : chat non censuré, génération d'images et de vidéos, agent de codage. Exécute des LLM abliterated et ComfyUI 100 % hors ligne. Un seul installateur, sans Docker ni cloud.

Donnez une âme à vos personnages préférés. Soul of Waifu est une application de jeu de rôle et de compagnon IA pour bureau, intégrant des avatars Live2D/VRM, un chat vocal et un LLM local. Évoluez ensemble à travers des discussions immersives, des aventures RPG et votre bureau.

Ouroboros — agent IA auto-créateur. Né le 16 février 2026.

WUPHF vous permet de créer votre bureau personnel d'équipiers IA collaborant via un contexte partagé. Supporte Claude Code, Codex, OpenClaw, OpenCode et les LLM locaux.

Qwen3.8-27B on a single RTX 3090 with vLLM: ~1,000 tok/s at 64 concurrent (int8 tensor-core GEMMs, fp16 DeltaNet state), ~114 tok/s single-user at default sampling / ~124 greedy (MTP drafts, own-output draft vocab, calibrated int4 lm_head, split-KV verify attention), 150k-262k context; patches, requant scripts, benchmarks

Un serveur MCP de recherche Web simple, hébergé localement, pour une utilisation avec des LLM locaux

Synthadoc : un moteur de compilation de connaissances LLM open-source qui transforme des documents bruts en wikis structurés et locaux. Une alternative transparente et lisible par l'humain au RAG traditionnel, auto-hébergée et auto-améliorée sans outils tiers.

Serveur d'inférence LLM natif pour Apple Silicon. Compatible avec les API OpenAI et Anthropic. Sans Python. Inclut l'application macOS MLX Core avec chat, mode agent et appel d'outils.