mudler

LocalAI 为开源 AI 引擎，可在任何硬件上运行任意模型（LLM、视觉、语音、图像、视频），无需 GPU

:sailboat: 无需任何中央服务器且具备自动发现功能的不可变、去中心化、静态构建 p2p VPN！使用共享令牌通过 p2p 创建可自省的去中心化隧道

LocalAGI 是一个强大、可自行托管的 AI Agent 平台，旨在实现最大隐私与灵活性。它是 OpenAI Responses API 的完整替代方案，具备先进的 agent 功能。无需云端。可在消费级硬件（CPU 与 GPU）上运行的本地 AI。

具备 WebUI 的 100% 本地代理内存层与知识库。

使用 ggml 以 C++ 实现的 Parakeet

Port of Nvidia LocateAnything-3B on ggml