local-llm

PokeClaw (PocketClaw) – die erste On-Device-KI, die dein Android-Smartphone steuert. Gemma 4, keine Cloud, kein API-Schlüssel. Poke steht kurz für Pocket.

Erstellen Sie KI-Agenten von Grund auf mit einem lokalen LLM – ohne Frameworks, ohne Cloud-APIs, ohne verstecktes Reasoning.

Sudoloser Apple Silicon Systemmonitor (native SwiftUI GUI) mit ANE-, Media Engine- und Speicherbandbreiten-Tracking

🚀 Selbst-gehostete KI-Automatisierungsplattform. N8n, Ollama, Flowise, RAG, Supabase & über 30 Tools mit einem Befehl bereitstellen. Automatisches HTTPS. Kostenlose Alternative zu Zapier/Make.

Autonome KI-Penetrationstest-Engine für kontinuierliche offensive Sicherheit über Web, Cloud, Identität, CI/CD, IaC, Datenbanken, Active Directory, Kubernetes und IoT-Firmware. Agentenbasiertes Schließen sowie echte Exploit-Ausführung liefern beweisbasierte Schwachstellen. Datenschutz-Gateway: Die LLM sieht niemals Ihre echten IPs, Hosts oder Zugangsdaten, nichts verlässt Ihren Perimeter.

Nornicdb ist ein verteiltes, latenzarmes Graph+Vektor-, temporales MVCC mit HNSW-Suche, Graph-Traversierung und Schreibvorgängen im Sub-Millisekundenbereich. Durch die Nutzung von Neo4j Bolt/Cypher und gRPC von qdrant können Sie ohne Änderungen wechseln und gleichzeitig intelligente Funktionen wie Schemata, verwaltete Embeddings, Reranking+LLM, GPU-Beschleunigung, Auto-TLP, richtlinienbasierten Speicherzerfall und MCP-Server hinzufügen.

Android 17 Lokaler LLM-Prototyp mit Jetpack Compose und ONNX Runtime für Offline-KI-Inferenzexperimente.

Karpathys LLM Wiki, 100 % lokal mit Ollama. Markdown-Notizen ablegen → KI extrahiert Konzepte → Ihr Obsidian-Wiki verlinkt sich automatisch und wächst. Kein Datenaustausch. Ihre Notizen bleiben Ihre.

Nutzen Sie die Leistung lokaler LLMs mit diesem TUI MCP-Client für Ollama. Enthält alle Kern-MCP-Primitive (Tools, Prompts, Ressourcen), den Agentenmodus, Multi-Server, Modellwechsel, Streaming-Antworten, Human-in-the-Loop, den Denkmodus, Modellparameterkonfiguration, System-Prompts und gespeicherte Einstellungen.

Die fortschrittlichste, vollständig offline arbeitende clientseitige KI-Suite für Android.

macOS-Menüleisten-App für schnelles lokales DeepSeek V4 Pro/Flash mit 1M Kontext.

Führen Sie vollständige Kimi K3 auf einem einzigen Gerät aus. Inklusive eines OpenAI-kompatiblen API-Servers für lokale Chat- und Coding-Agenten.

A minimalist, terminal-native coding agent written in C.

Lokale, OpenAI-kompatible Text-to-Speech (TTS)-API mit Chatterbox, die es Benutzern ermöglicht, sprachgeklonten Ton überall dort zu erzeugen, wo die OpenAI-API verwendet wird (z. B. Open WebUI, AnythingLLM usw.)

Bis zu 4-fach schnellere LLM-Dekodierung auf Apple Silicon, verlustfrei. Natives MLX-Port von DeepSeek DSpark & z-lab DFlash speculative decoding – Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, Ornith-1.0, ternary Bonsai-27B.

Kuratiertes Verzeichnis von Open-Source-KI-Begleiterprojekten: Langzeitgedächtnis, proaktives Verhalten, Stimme, Verkörperung und gemeinsame Aktivitäten. 157 Einträge, kategorisiert nach Sprache, Plattform und Reifegrad.

Swiftlet ist eine Swift- und Metal-Laufzeitumgebung, die große Qwen Mixture-of-Experts-Modelle lokal auf Apple-Geräten ausführt, indem Expert-Gewichte vom Speicher gestreamt werden. Dies ermöglicht den Betrieb von 35B- und 80B-Modellen mit geringem RAM-Verbrauch, auch auf dem iPhone.

Open-Source-lokales KI-SDK – Führen Sie KI geräteintern ohne Cloud, ohne API-Schlüssel aus. Unterstützt GGUF, RAG, Bild-, Musik- und Videoerstellung, Sprache-zu-Text, P2P-Inferenz und mehr. Plattformübergreifend: Linux, macOS, Windows, Android, iOS.

KI-gestützte IDE für das Schreiben von Romanen – lokales LLM + RAG, datenschutzorientiert, BYOK. Für Web-Fiction-Autoren und kreative Schreiber.

Kuratierte Lösungen zum Aufbau eines selbstentwickelnden Second Brain, das KI-Agenten hilft, Ihren persönlichen und Team-Kontext zu verstehen.

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).