llm

基於 OpenSearch 建構的開源、自架企業與網站搜尋伺服器。支援網頁/檔案/資料庫/雲端來源爬取、20 種以上語言、REST API 以及 AI/RAG 與語意搜尋。採用 Apache-2.0 授權。

統一 RAG Retrieval 的高效微調，包含 Embedding、ColBERT、ReRanker。

🚀 MassGen 是一個在終端機中執行的開源多代理擴展系統，可自主協調前沿模型與代理進行協作、推理並產生高品質的結果。| 加入我們的 Discord：discord.massgen.ai

ToRA 是一系列工具整合的推理 LLM 代理，旨在透過與工具互動來解決具挑戰性的數學推理問題 [ICLR'24]。

一個模組化且與堆疊無關的安全性審查技能工具包，供 AI 編碼代理自主尋找、重現並修補漏洞。

[NeurIPS 2025] TTRL：測試期強化學習

一個簡單、本機託管的 Web 搜尋 MCP 伺服器，供 Local LLM 使用

用於 AI 開發的 TypeScript 框架

Obsidian 的入門範本

使用 Go 語言編寫的 AI gateway / AI control plane / AI proxy。為 OpenAI、Anthropic、Gemini、Groq、xAI、Ollama、vLLM 等提供統一的 OpenAI 相容與 Anthropic 相容 API。作為 LiteLLM 的替代方案，具備可觀測性、安全護欄、串流、成本追蹤、智慧路由、黏性工作階段、容錯移轉、即時日誌與使用量追蹤。生產就緒。

你的 AI 會忘記，這個能記住。專為 vibecoders、產品負責人、CEO 與真正開發者打造的規格驅動編碼工具——具備自我提升的上下文記憶、15 個 Agent、33 項技能，支援 /goal、agent-team 與自動循環工作流程，無需人工審查。消除上下文腐化，交付功能而非雜亂程式碼。支援 Claude Code 與 Codex。適用於任何技術棧

Schema-Guided Reasoning (SGR) 具備由 neuraldeep 社群建立的代理式系統設計

DataDreamer：提示、生成合成資料、訓練與對齊模型。

開源、本地優先的桌面 AI 研究工作台，支援 Python/R 科學計算、MCP 生物資訊工具、SSH/WSL/GPU 執行環境以及 OpenAI/Anthropic 模型。

Empryo issue tracker + SoulForge (v2)。Empryo 是以圖形驅動的 AI 程式碼 agent，編輯的是符號而非字串：AST 處理、完整 LSP、即時程式碼基因體。請至 https://empryo.com 取得

[ICLR 2026] LightMem：輕量且高效的記憶體增強生成

基於 AI 的威脅建模工具，利用 OpenAI 的 GPT 模型根據 STRIDE 方法論為特定應用程式產生威脅模型。

適用於 Apple Silicon 的原生 LLM 推論伺服器。相容 OpenAI + Anthropic API。無須 Python。包含具備聊天、agent 模式與工具呼叫功能的 MLX Core macOS 應用程式。

使用 Prometheus 與 GPT4 評估你的 LLM 回應 💯

一場 4 小時的程式設計工作坊，深入了解 LLM 的實作與應用

For You Agent——AI 时代的个人随身数字人格。把你的模型、AI 账号、技能、提示词和工作方式，带到每一个 AI 工具里。

為 AI 安全與 AI 輔助網路安全精選的公開原始碼、研究與商業工具清單——自動分類、agent 安全、AI/ML 供應鏈、滲透測試 agent、AI SAST、LLM 驅動模糊測試、威脅情資、SOC/SIEM 分類、逆向工程、LLM 紅隊演練等。

Agent OS：將專家 Agent 保存在中心樞紐中，為每個任務建立臨時的協調器。本機優先，適用於任何模型。

使用 Rust、Tauri 與 React 建構的桌面多 Agent 框架，由 langgraph-rust 驅動。

比較可在消費級硬體上本機部署的不同 LLM 的效能。使用 Colab WebUI 親自執行。

AI 協作試算表。將儲存格串聯成強大的管線，實驗提示詞與模型，並即時評估 LLM 回應。透過無縫協作來建構與迭代 AI 應用程式。

NobodyWho 是一款推理引擎，讓你能在任何裝置上高效地在本機執行 LLM。

用於自動化偵察、筆記與漏洞分析的 AI 驅動滲透測試助手

《AI 研發提效：自己動手訓練 LoRA》，包含 Llama（Alpaca LoRA）模型、ChatGLM（ChatGLM Tuning）相關 Lora 的訓練。訓練內容：使用者故事生成、測試程式碼生成、程式碼輔助生成、文字轉 SQL、文字生成程式碼……

使用 C++ 與 CUDA 建構你自己的高效能 LLM 推理引擎 - vLLM 的精簡版