local-llm

PokeClaw (PocketClaw) — 首款可在设备端执行并控制 Android 手机的 AI。搭载 Gemma 4，无需云端、无需 API 密钥。Poke 是 Pocket 的简称。

使用本地 LLM 从第一原理构建 AI 代理程序 - 无框架、无云端 API、无隐藏推理。

无需 Root 的 Apple Silicon 系统监视器（原生 SwiftUI GUI），具备 ANE、媒体引擎与内存带宽追踪功能

🚀 自架 AI 自动化平台。只需一行指令即可部署 n8n、Ollama、Flowise、RAG、Supabase 与 30 多种工具。自动 HTTPS。免费的 Zapier/Make 替代方案。

自主式 AI 渗透测试引擎，针对 Web、云端、身份验证、CI/CD、IaC、数据库、Active Directory、Kubernetes 与 IoT 固件进行持续性攻击安全测试。通过代理推理与真实漏洞执行提供验证。隐私网关设计确保 LLM 无法访问真实 IP、主机或凭证，数据不出边界

Nornicdb 是一个分布式、低延迟、Graph+Vector、具备时间轴 MVCC 的数据库，提供亚毫秒级的 HNSW 搜索、图形遍历与写入。通过 Neo4j Bolt/Cypher 与 qdrant gRPC 支持，你可以在不修改代码的情况下进行切换，同时加入结构描述（schema）、托管嵌入、重排序与 LLM、GPU 加速、Auto-TLP、基于策略的内存衰减以及 MCP 服务器等智能功能。

Android 17 本地 LLM 原型，使用 Jetpack Compose 与 ONNX Runtime 进行离线 AI 推理实验。

目前 Android 上最先进、完全离线的客户端 AI 套件。

Karpathy 的 LLM Wiki，使用 Ollama 100% 本地运行。放入 Markdown 笔记 → AI 萃取概念 → 你的 Obsidian wiki 自动链接并成长。零分享。你的笔记永远属于你。

利用这款适用于 Ollama 的 TUI MCP Client 释放本地 LLM 的强大功能。具备所有核心 MCP 原语（工具、提示词、资源）、代理模式、多服务器、模型切换、流式响应、人在回路（human-in-the-loop）、思考模式、模型参数设定、系统提示词以及已保存的偏好设置。

在单一设备上运行完整的 Kimi K3，并提供用于本地聊天与 coding agent 的 OpenAI 兼容 API 服务器。

macOS 菜单栏应用程序，用于快速运行具备 1M 上下文的本地 DeepSeek V4 Pro/Flash。

A minimalist, terminal-native coding agent written in C.

使用 Chatterbox 的本地、兼容 OpenAI 的文本转语音 (TTS) API，让用户能在任何使用 OpenAI API 的地方生成语音克隆内容（例如 Open WebUI、AnythingLLM 等）

Open-source AI companions, desktop pets, long-term memory & proactive chat. 人机恋开源项目大全。让你的家机能够脱离官端自主存在，拥有记忆和主动性。

在 Apple Silicon 上实现高达 4 倍更快的 LLM 解码，无损。原生 MLX 移植 DeepSeek 的 DSpark 与 z-lab 的 DFlash 推测解码 — Gemma-4、Qwen3.8、Muse-Glimmer、Nemotron、Ornith-1.0、三进制 Bonsai-27B。

Swiftlet 是一个 Swift 与 Metal 运行时，通过从存储空间串流专家权重，在 Apple 设备上本地执行大型 Qwen Mixture-of-Experts 模型，使 35B 与 80B 模型能在低内存下执行，包含 iPhone。

开源本地 AI SDK - 在设备端运行 AI，无需云端、无需 API 密钥。支持 GGUF、RAG、图像、音乐与视频生成、语音转文字、P2P 推理等。跨平台：Linux、macOS、Windows、Android、iOS。

AI 驱动的小说写作 IDE — 支持本地 LLM 与 RAG，隐私优先，可自备 API Key（BYOK）。专为网络小说作者与创意写作者设计。

精选解决方案，用于构建自我演进的第二大脑，协助 AI 代理理解个人与团队情境。

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).