llm

llama.cpp 的 WebAssembly 綁定 - 實現瀏覽器端 LLM 推論

您的軟體工廠 - 透過 24/7 運作的多節點代理程式，更快、更好地建構軟體

Model Context Protocol 的 Ruby 實作

整合 Lovable 與 Supabase 的開源替代方案！

雙語會議的即時雙向語音翻譯 — 自動偵測說話語言並進行雙向翻譯，支援雲端或完全離線裝置端。支援桌面版（Windows、macOS、Linux）以及適用於 Zoom、Meet、Teams 與任何應用程式的瀏覽器擴充功能（Chrome、Edge）。

半結構化 Agentic 框架。工作流程會隨著 Agent 發現需要完成的事項而自行建構，而非根據你預先預測的內容。

由 AI 驅動的 Vim 程式碼助手。適用於 Vim 與 Neovim 的 OpenAI 與 ChatGPT 外掛。

Inkdown 是一個所見即所得編輯器與 LLM 對話工具，完全相容於 GitHub Flavored Markdown 規範。

600 行 TypeScript 寫成的超級迷你版 pi，讓你輕鬆從 0 寫出屬於你的 pi-agent

一個完全在瀏覽器中運行的極簡 LLM 對話應用程式

使用 Apple Foundation Models 框架建構、測試與評估應用程式的實作實驗室。

明醫 (MING)：中文醫療問診大模型

為任何 AI agent 編譯的 LLM 知識庫。支援平行多 agent 研究、論文導向調查、來源吞吐、維基編譯、查詢與成品生成。

針對 AI agents 的追蹤原生 CI/CD — 生產環境失敗轉化為阻擋 PR 的迴歸測試。自動偵測、分群、封裝為隔離案例，在 CI 中以 0 美元重播。

🌎💎 開發者的第一個書籤

Agentic SOC 平台：功能強大、靈活、開源且以 Agent 為中心的自動化安全營運平台（AI SOC）

結合語言模型統一 3D 網格生成

A-MEM：LLM Agent 的代理式記憶體

賦予 agent 強大能力的工具集。

由 LangChain 驅動的 Shell 指令產生器與執行 CLI

用於下載 HuggingFace 模型與資料集的簡單 Go 工具。

AI輔助長篇小說創作，卡片式創作，支援基於 JSON Schema的結構化 AI 生成與上下文參照，可擴充性強。

使用環境評估並改善模型與 agent

透過低程式碼方式簡化開發者與非技術使用者的 Prompt 設計。

一款桌面端 MCP 客戶端，設計為工具單一公用程式整合，透過 Model Context Protocol (MCP) 加速 AI 採用，並支援跨供應商的 LLM API 編排。

輕鬆訓練推測解碼模型並平滑移植到 SGLang 服務中。

[NeurIPS 2023] LLM-Pruner：大型語言模型的結構化剪枝。支援 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

FP16xINT4 LLM 推論核心，在 16-32 個 token 的中等批次大小下，可實現近乎理想的約 4 倍加速。

一個開源、類似 PyTorch 的執行階段，用於動態多代理與多工作階段工作流程。

NativeMind：您的完全私密、開源、端側 AI 助理