mudler

LocalAI 為開源 AI 引擎，可在任何硬體上執行任意模型（LLM、視覺、語音、圖像、影片），無需 GPU

:sailboat: 無需任何中央伺服器且具備自動發現功能的不可變、去中心化、靜態建置 p2p VPN！使用共享令牌透過 p2p 建立可自省的去中心化隧道

LocalAGI 是一個強大、可自行主機架設的 AI Agent 平台，旨在實現最大隱私與靈活性。它是 OpenAI Responses API 的完整替代方案，具備先進的 agent 功能。無需雲端。可在消費級硬體（CPU 與 GPU）上運行的本機 AI。

具備 WebUI 的 100% 本地代理記憶體層與知識庫。

使用 ggml 以 C++ 實作的 Parakeet

Port of Nvidia LocateAnything-3B on ggml