local-ai

停止租用你的智能。使用 AnythingLLM 拥有它。一切你需要的强大本地优先代理体验

以隐私为先的 AI 会议助理，具 4 倍更快的 Parakeet/Whisper 实时转录、说话者分离与基于 Rust 的 Ollama 摘要，100% 本地处理，无需云端。Meetily（Meetly Ai）是 macOS 与 Windows 上首屈一指的自托管、开源 AI 会议笔记工具。了解如何编写会议纪要

使用单个文件分发和运行大型语言模型（LLM）。

YC (S26) | 开放电脑历史 | 本地持续录制屏幕并为您的代理（Claude、Codex、Openclaw、Hermes、Runner…）提供上下文信息

在 Qualcomm 设备上以少量代码本地运行前沿 LLM 和 VLM，支持 NPU、GPU 和 CPU

Gemma 4 26B-A4B 推理在任何 M 系列 MacBook 上约 2 GB RAM

将你的 PC、Mac 或 Linux 盒子变成 AI 服务器。LLM 推理、聊天 UI、语音、代理、工作流程、RAG 与图像生成

⚡ 纯 Rust WebGPU 推理引擎 — OpenAI-API 兼容，GGUF 原生，支持任何 GPU。无 Python，無 llama.cpp，单一二进位文件。

MLX-VLM 是一个在 Mac 上使用 MLX 进行 Vision Language Models (VLMs) 推理与微调的套件

开源个人云端操作系统，为始终在线代理设计

在 Windows 上快速轻松使用 OCR，配备可选后台进程与通知

通过单个 YAML 微调 LLM。层流训练可在 4 GB 笔记本 GPU 上运行 8B 模型。

在 Apple Silicon 上 100% 本地执行 Claude Code，使用本地 AI。MLX 原生 Anthropic-API 服务器。包含 6 个模型，包括 Muse-Glimmer 30B（现在多模态——可读取图像，已被消除）、Gemma 4 31B、Qwen 3.5 122B（65 tok/s）、DeepSeek V4 Flash（1M 上下文）。私有、离线、可隔离。为 NDA / 法律 / 医疗工作流程而建。

离线 AI 的瑞士军刀。在手机或 Mac 上进行聊天、视觉识别、语音对话与图像生成——支持 GGUF LLMs、视觉、Whisper 语音转文字、Stable Diffusion、工具调用以及本地网络服务器。可在 CPU、GPU 或 NPU 上运行。无需账号、无需 API 密钥，数据零外泄。

开源 AI 相机技能平台、AI NVR 与 CCTV 监控。使用 Qwen、DeepSeek、SmolVLM、LLaVA、YOLO26 进行本地 VLM 视频分析。具备 LLM 驱动的智能安全相机代理——通过 Telegram、Discord 或 Slack 守护您的家。支持可插拔的 AI 技能。支持 OpenAI、Google、Anthropic 或本地 AI。可运行于 Mac Mini 与 AI PC。

适用于消费级与异构硬件的 LLM 推测式推理服务器

精选的优质平台、工具、实践和资源清单，帮助在本地运行 LLM

在 Apple Silicon 上通过 MLX 实现快 3 倍的速度 | Qwen 3.8 27B | 原生 MTP 推测解码，无需外部草稿模型。

VLLM、Sglang、llama.cpp、exllamav3 的控制面板

适用于 Windows、macOS、Linux、Android 与 iOS 的个人 AI 桌面代理。设定目标后即可自动执行。支持团队协作（配对两个桌面、代理加人类）、Agent2Agent、工作流程、代码编写、多代理组织、桌面与浏览器自动化。支持 15 种以上 AI 提供商、自带密钥（BYOK）。免 Docker、免终端机。具备代理技能（SKILL.md）、迁移导入工具以及定期自主任务。

一个注重隐私的 Raspberry Pi 家用安全摄像头，采用先进的端到端加密技术。

🦭 具备记忆、能持续推进目标、可动态编排多 Agent 的跨端桌面 AI 助手，亦可服务化常驻 NAS / 云端 | A cross-device desktop AI agent with memory, autonomous goals, dynamic workflows, and headless deployment

与你的 Mac 对话、查询你的文档，无需云端。设备端语音 AI + RAG

🎙️ AI 语音听写应用程序 - 开源且本地优先 ⚡ 输入速度提升 3 倍，无需键盘。 🆓 基于开源模型驱动，可离线运行，快速且准确。

掌控你的计算，掌控你的智能。是时候构建你的个人 AI 数据中心了。

供 Agent 使用的本地 AI 应用与推理引擎。在你的电脑上私密、100% 离线运行开放权重 LLM。欢迎加入我们的 Discord：https://discord.com/invite/8wGSsvmg4V

开箱即用的本地 AI 工作室：无审查聊天、图像与视频生成、编码 Agent。100% 离线执行去审查 LLM + ComfyUI。一个安装程序，不需要 Docker，不需要云端。

PhoneClaw 通过端侧模型、原生移动端 Skills、LiveLand 以及可选的 Mac Gateway 推理，将手机转化为本地 AI 代理运行时。

一个完全在浏览器中运行的极简 LLM 对话应用程序