local-ai

Hören Sie auf, Ihre Intelligenz zu mieten. Eigen Sie sie mit AnythingLLM. Alles, was Sie für ein leistungsstarkes, lokal-first-Agentenerlebnis benötigen.

Datenschutz zuerst, KI-Meeting-Assistent mit 4-facher schneller Parakeet/Whisper Live-Transkription, Sprecher-Diarisierung und Ollama-Zusammenfassung, gebaut auf Rust. 100 % lokale Verarbeitung. Keine Cloud erforderlich. Meetily (Meetly Ai - https://meetily.ai) ist das #1 Self-hosted, Open-source KI-Meeting-Notiznahme-Tool für macOS & Windows. Verstehen Sie, wie man Sitzungsprotokolle schreibt.

LLMs mit einer einzigen Datei verteilen und ausführen.

YC (S26) | Open Computer History | Aufzeichnung des Bildschirms kontinuierlich lokal und Bereitstellung von Kontext an deine Agenten (Claude, Codex, Openclaw, Hermes, Runner...)

Führe moderne LLMs und VLMs lokal auf Qualcomm-Geräten über NPU, GPU und CPU mit wenigen Zeilen Code aus.

Gemma 4 26B-A4B Inferenz in ca. 2 GB RAM auf jedem M-Series MacBook

Verwandeln Sie Ihren PC, Mac oder Linux-Rechner in einen KI-Server. LLM-Inferenz, Chat-UI, Sprache, Agenten, Workflows, RAG und Bildgenerierung.

⚡ Rein in Rust geschriebene WebGPU-Inferenz-Engine — OpenAI-API-kompatibel, GGUF-nativ, läuft auf jeder GPU. Kein Python. Kein llama.cpp. Einzelne Binärdatei.

MLX-VLM ist ein Paket für Inferenz und Fine-Tuning von Vision Language Models (VLMs) auf dem Mac mit MLX.

Open-Source-Personal-Cloud-OS für Always-On-Agenten

OCR unter Windows schnell und einfach nutzen mit Text Grab. Inklusive optionalem Hintergrundprozess und Benachrichtigungen.

LLMs aus einer einzigen YAML-Datei fine-tunen. Layer-Streaming trainiert ein 8B-Modell auf einer 4-GB-Laptop-GPU.

Claude Code zu 100 % lokal auf Apple Silicon mit lokaler KI ausführen. MLX-nativer Anthropic-API-Server. 6 Modelle inkl. Muse-Glimmer 30B (jetzt multimodal – liest Bilder, abliteriert), Gemma 4 31B, Qwen 3.5 122B (65 Tok/s), DeepSeek V4 Flash (1M Konstitutionskontext). Privat, offline, airgap-fähig. Entwickelt für NDA-, Rechts- und Gesundheits-Workflows.

Das Schweizer Taschenmesser für Offline-KI. Chatten, sehen, sprechen und Bilder generieren auf deinem Smartphone oder Mac – GGUF-LLMs, Vision, Whisper-Sprache-zu-Text, Stable Diffusion, Tool-Aufrufe und lokale Netzwerkserver. Läuft auf CPU, GPU oder NPU. Kein Konto, kein API-Key, null Daten verlassen dein Gerät.

Open-Source-KI-Kamera-Fähigkeitenplattform, KI-NVR & CCTV-Überwachung. Lokale VLM-Videoanalyse mit Qwen, DeepSeek, SmolVLM, LLaVA, YOLO26. KI-gestützter Agenten-Sicherheitskamera-Agent – überwacht, versteht, erinnert sich und schützt Ihr Zuhause über Telegram, Discord oder Slack. Erweiterbare KI-Fähigkeiten. OpenAI, Google, Anthropic oder lokale KI. Läuft auf Mac Mini & AI-PCs.

LLM-Inferenzserver für spekulatives Sampling auf Consumer- und heterogener Hardware

Eine kuratierte Liste fantastischer Plattformen, Tools, Praktiken und Ressourcen zum lokalen Ausführen von LLMs

3x schnellere Geschwindigkeiten auf MLX | Qwen 3.8 27B | Natives MTP Speculative Decoding auf Apple Silicon ohne externen Drafter.

Steuerungs-Panel für VLLM, Sglang, llama.cpp, exllamav3

Persönlicher KI-Desktop-Agent für Windows, macOS, Linux, Android & iOS. Ziel setzen, er arbeitet selbstständig. Teams (zwei Desktops koppeln, Agents + Menschen), Agent2Agent, Workflows, Codework, Multi-Agenten-Organisationen, Desktop- + Browser-Automatisierung. 15+ KI-Anbieter, BYOK. Kein Docker, kein Terminal. Agent Skills (SKILL.md). Migrations-Importer. Wiederkehrende autonome Aufgaben.

Eine datenschutzfreundliche Raspberry-Pi-Sicherheitskamera, die fortschrittliche End-to-End-Verschlüsselung nutzt.

Ein plattformübergreifender Desktop-KI-Agent mit Gedächtnis, autonomen Zielen, dynamischen Workflows und Headless-Deployment, der auch als Dienst auf NAS oder in der Cloud laufen kann.

Mit dem Mac sprechen, Dokumente abfragen, keine Cloud erforderlich. Sprach-KI auf dem Gerät + RAG

🎙️ KI-Diktier-App – Open Source und Local-First ⚡ 3x schneller tippen, keine Tastatur erforderlich. 🆓 Angetrieben von Open-Source-Modellen, offline funktionsfähig, schnell und präzise.

Bestimme deine Rechenleistung, bestimme deine Intelligenz. Zeit, dein persönliches KI-Rechenzentrum aufzubauen.

Lokale KI-App und Inferenz-Engine für Agenten. Führen Sie Open-Weight-LLMs lokal aus — privat, 100% offline auf Ihrem Computer. Treten Sie unserem Discord bei: https://discord.com/invite/8wGSsvmg4V

Plug-and-Play Local AI Studio: unzensierter Chat, Bild- und Videogenerierung, Coding Agent. Läuft mit abliterierten LLMs + ComfyUI zu 100 % offline. Ein Installationsprogramm, kein Docker, keine Cloud.

PhoneClaw verwandelt Smartphones in lokale KI-Agenten-Runtimes mit On-Device-Modellen, nativen mobilen Skills, LiveLand und optionalem Mac-Gateway-Inferenz.

Eine minimale LLM-Chat-App, die vollständig im Browser läuft