llm

最快的企業級 AI 閘道（比 LiteLLM 快 50 倍），具備自適應負載平衡、叢集模式、守護欄、支援 1000+ 模型，且在 5k RPS 時的額外延遲低於 100 µs。

擁有自己的 AI。原生 macOS AI 代理平台——支援任意模型、持久記憶、自主執行、加密身份。使用 Swift 開發，完全離線，開源。

ERNIE 4.5 與 ERNIEKit 的官方倉庫 – 基於 PaddlePaddle 的工業級開發工具套件

快速且彈性的 LLM 推理

將程式碼庫轉換為單一 LLM 提示的 CLI 工具，支援來源樹、提示範本與 token 計算

AI 驅動的程式碼伴侶，支援 Claude、GPT、O 系列、Grok、Deepseek、Gemini 及 300+ 模型

🔥 開源瀏覽器 API，供 AI 代理與應用使用。Steel Browser 為即插即用的瀏覽器沙盒，讓你在不擔心基礎設施的情況下自動化網頁。

Kimi K3 2.78 兆參數模型，單 CPU 推理 8.24 GB RAM，C99 可攜式：無 BLAS、無框架、無 GPU

Android 上功能最強大、發展最久的 AI 代理與聊天軟體

為 LLM 輸入優化的檔案解析器，無資訊遺失 🧠 可解析 PDF、Docx、PPTx，輸出適合 LLM 使用的格式。

為你的 GenAI 或 LLM 應用提供開源可觀測性，基於 OpenTelemetry

OpenCompass 是一個 LLM 評估平台，支援多種模型（Llama3、Mistral、InternLM2、GPT-4、LLaMa2、Qwen、GLM、Claude 等）以及 100 多個資料集

AI 驅動的下一代開源即時可觀測系統

動態且具彈性的 AI 編排。於建構 AI 工作流程時協調資料、模型與運算資源。

為大型語言模型添加安全防護措施

合併預訓練大型語言模型的工具

永久免費的 LLM API 列表（API 金鑰）。

InternLM 系列正式發布（InternLM、InternLM2、InternLM2.5、InternLM3）

每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈

LLM 驅動的非結構化資料抽取 — 為 API 部署與 ETL 工作流程設計

AutoClip：AI 驅動的影片剪輯與亮點生成工具

GLM-5：從 Vibe Coding 到 Agentic Engineering

構建代理工具並端到端控制它。Python & TypeScript 的開源 SDK，支援任何模型、任何雲端

中文 LLaMA-2 與 Alpaca-2 大模型二期專案 + 64K 超長上下文模型

用於構建有狀態代理的記憶庫

TalkToFigma：AI 代理（Cursor、Claude Code、Codex）與 Figma 之間的 MCP 整合，允許 Agentic AI 與 Figma 通訊以讀取設計並以程式方式修改

為基礎模型提供資料處理！🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

自動工作日誌/時間追蹤器。私密地將您的螢幕轉換為實際完成工作的時間線。開源且本地優先。

加速 Claude Code、Cursor、Codex、Gemini 及所有編碼代理：更快、更便宜，並具備針對您程式碼庫的上下文理解

DeepAudit：人人擁有的 AI 黑客戰隊，讓漏洞挖掘觸手可及。國內首個開源的程式碼漏洞挖掘多智能體系統。小白一鍵部署運行，自主協作審計 + 自動化沙箱 PoC 驗證。支援 Ollama 私有部署，一鍵生成報告。支援中轉站。讓安全不再昂貴，讓審計不再複雜。