local-llm

PokeClaw (PocketClaw) — 首款可在裝置端執行並控制 Android 手機的 AI。搭載 Gemma 4，無需雲端、無需 API 金鑰。Poke 是 Pocket 的簡稱。

使用本地 LLM 從第一原理建構 AI 代理程式 - 無框架、無雲端 API、無隱藏推理。

無需 Root 的 Apple Silicon 系統監視器（原生 SwiftUI GUI），具備 ANE、媒體引擎與記憶體頻寬追蹤功能

🚀 自架 AI 自動化平台。只需一行指令即可部署 n8n、Ollama、Flowise、RAG、Supabase 與 30 多種工具。自動 HTTPS。免費的 Zapier/Make 替代方案。

自主式 AI 滲透測試引擎，針對 Web、雲端、身分驗證、CI/CD、IaC、資料庫、Active Directory、Kubernetes 與 IoT 韌體進行持續性攻擊安全測試。透過代理推理與真實漏洞執行提供驗證。隱私閘道設計確保 LLM 無法存取真實 IP、主機或憑證，資料不出邊界

Nornicdb 是一個分散式、低延遲、Graph+Vector、具備時間軸 MVCC 的資料庫，提供次毫秒級的 HNSW 搜尋、圖形走訪與寫入。透過 Neo4j Bolt/Cypher 與 qdrant gRPC 支援，你可以在不修改程式碼的情況下進行切換，同時加入結構描述（schema）、受管嵌入、重排序與 LLM、GPU 加速、Auto-TLP、基於策略的記憶體衰減以及 MCP 伺服器等智慧功能。

Android 17 本地 LLM 原型，使用 Jetpack Compose 與 ONNX Runtime 進行離線 AI 推論實驗。

Karpathy 的 LLM Wiki，使用 Ollama 100% 本地運行。放入 Markdown 筆記 → AI 萃取概念 → 你的 Obsidian wiki 自動連結並成長。零分享。你的筆記永遠屬於你。

利用這款適用於 Ollama 的 TUI MCP Client 釋放本機 LLM 的強大功能。具備所有核心 MCP 原語（工具、提示詞、資源）、代理模式、多伺服器、模型切換、串流回應、人在迴路（human-in-the-loop）、思考模式、模型參數設定、系統提示詞以及已儲存的偏好設定。

目前 Android 上最先進、完全離線的客戶端 AI 套件。

在單一裝置上執行完整的 Kimi K3，並提供用於本機聊天與 coding agent 的 OpenAI 相容 API 伺服器。

macOS 選單列應用程式，用於快速執行具備 1M 上下文的本地端 DeepSeek V4 Pro/Flash。

A minimalist, terminal-native coding agent written in C.

使用 Chatterbox 的本地、相容 OpenAI 的文字轉語音 (TTS) API，讓使用者能在任何使用 OpenAI API 的地方產生語音複製內容（例如 Open WebUI、AnythingLLM 等）

Open-source AI companions, desktop pets, long-term memory & proactive chat. 人机恋开源项目大全。让你的家机能够脱离官端自主存在，拥有记忆和主动性。

在 Apple Silicon 上實現高達 4 倍更快的 LLM 解碼，無損。原生 MLX 移植 DeepSeek 的 DSpark 與 z-lab 的 DFlash 推測解碼 — Gemma-4、Qwen3.8、Muse-Glimmer、Nemotron、Ornith-1.0、三進制 Bonsai-27B。

Swiftlet 是一個 Swift 與 Metal 執行時期，透過從儲存空間串流專家權重，在 Apple 裝置上本地執行大型 Qwen Mixture-of-Experts 模型，使 35B 與 80B 模型能在低記憶體下執行，包含 iPhone。

開源本地 AI SDK - 在裝置端執行 AI，無需雲端、無需 API 金鑰。支援 GGUF、RAG、影像、音樂與影片生成、語音轉文字、P2P 推理等。跨平台：Linux、macOS、Windows、Android、iOS。

AI 驅動的小說寫作 IDE — 支援本地 LLM 與 RAG，隱私優先，可自備 API Key（BYOK）。專為網路小說作者與創意寫作者設計。

精選解決方案，用於構建自我演進的第二大腦，協助 AI 代理理解個人與團隊情境。

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).