local-ai

停止租用你的智慧。使用 AnythingLLM 擁有它。一切你需要的強大本地優先代理體驗

以隱私為先的 AI 會議助理，具 4 倍更快的 Parakeet/Whisper 即時轉錄、說話者分離與基於 Rust 的 Ollama 摘要，100% 本地處理，無需雲端。Meetily（Meetly Ai）是 macOS 與 Windows 上首屈一指的自託管、開源 AI 會議筆記工具。了解如何撰寫會議紀要

以單一檔案分發與執行大型語言模型（LLM）。

YC (S26) | 開放電腦歷史 | 本地持續錄製螢幕並為您的代理（Claude、Codex、Openclaw、Hermes、Runner…）提供上下文資訊

在 Qualcomm 裝置上以少量程式碼本地執行前沿 LLM 與 VLM，支援 NPU、GPU 與 CPU

Gemma 4 26B-A4B 推理在任何 M 系列 MacBook 上約 2 GB RAM

將你的 PC、Mac 或 Linux 盒子變成 AI 伺服器。LLM 推理、聊天 UI、語音、代理、工作流程、RAG 與圖像生成

⚡ 純 Rust WebGPU 推理引擎 — OpenAI-API 兼容，GGUF 原生，支援任何 GPU。無 Python，無 llama.cpp，單一二進位檔。

MLX-VLM 是一個在 Mac 上使用 MLX 進行 Vision Language Models (VLMs) 推理與微調的套件

開源個人雲端作業系統，為始終在線代理設計

在 Windows 上快速輕鬆使用 OCR，配備可選背景進程與通知

透過單一 YAML 微調 LLM。層串流訓練可在 4 GB 筆電 GPU 上執行 8B 模型。

在 Apple Silicon 上 100% 本地執行 Claude Code，使用本地 AI。MLX 原生 Anthropic-API 伺服器。包含 6 個模型，包括 Muse-Glimmer 30B（現在支援多模態——可讀取圖像，已被消除）、Gemma 4 31B、Qwen 3.5 122B（65 tok/s）、DeepSeek V4 Flash（1M 上下文）。私有、離線、可隔離。為 NDA / 法律 / 醫療工作流程而建。

離線 AI 的瑞士刀。在手機或 Mac 上進行聊天、視覺辨識、語音對話與圖像生成——支援 GGUF LLMs、視覺、Whisper 語音轉文字、Stable Diffusion、工具呼叫以及本機網路伺服器。可在 CPU、GPU 或 NPU 上運行。無需帳號、無需 API 金鑰，資料零外洩。

開源 AI 攝影機技能平台、AI NVR 與 CCTV 監控。使用 Qwen、DeepSeek、SmolVLM、LLaVA、YOLO26 進行本機 VLM 影片分析。具備 LLM 驅動的智慧安全攝影機代理——透過 Telegram、Discord 或 Slack 守護您的家。支援可插拔的 AI 技能。支援 OpenAI、Google、Anthropic 或本機 AI。可運行於 Mac Mini 與 AI PC。

適用於消費級與異質硬體的 LLM 推測式推論伺服器

精選的優質平台、工具、實踐和資源清單，幫助在本地運行 LLM

在 Apple Silicon 上透過 MLX 實現快 3 倍的速度 | Qwen 3.8 27B | 原生 MTP 推測解碼，無需外部草稿模型。

VLLM、Sglang、llama.cpp、exllamav3 的控制面板

適用於 Windows、macOS、Linux、Android 與 iOS 的個人 AI 桌面代理。設定目標後即可自動執行。支援團隊協作（配對兩個桌面、代理加人類）、Agent2Agent、工作流程、程式碼編寫、多代理組織、桌面與瀏覽器自動化。支援 15 種以上 AI 提供者、自備金鑰（BYOK）。免 Docker、免終端機。具備代理技能（SKILL.md）、遷移匯入工具以及定期自主任務。

一個注重隱私的 Raspberry Pi 家用安全攝影機，採用先進的端對端加密技術。

🦭 具備記憶、能持續推進目標、可動態編排多 Agent 的跨端桌面 AI 助手，亦可服務化常駐 NAS / 雲端 | A cross-device desktop AI agent with memory, autonomous goals, dynamic workflows, and headless deployment

與你的 Mac 對話、查詢你的文件，無需雲端。裝置端語音 AI + RAG

🎙️ AI 語音聽寫應用程式 - 開源且本機優先 ⚡ 輸入速度提升 3 倍，無需鍵盤。 🆓 基於開源模型驅動，可離線運作，快速且準確。

掌控你的運算，掌控你的智慧。是時候建構你的個人 AI 資料中心了。

供 Agent 使用的本地 AI 應用程式與推論引擎。在你的電腦上私密、100% 離線運行開放權重 LLM。歡迎加入我們的 Discord：https://discord.com/invite/8wGSsvmg4V

開箱即用的本地 AI 工作室：無審查聊天、圖像與影片生成、編碼 Agent。100% 離線執行去審查 LLM + ComfyUI。一個安裝程式，不需要 Docker，不需要雲端。

PhoneClaw 透過端側模型、原生行動端 Skills、LiveLand 以及可選的 Mac Gateway 推理，將手機轉化為本地 AI 代理執行階段。

一個完全在瀏覽器中運行的極簡 LLM 對話應用程式