llm

最快的企业级 AI 网关（比 LiteLLM 快 50 倍），具备自适应负载均衡、集群模式、守护栏、支持 1000+ 模型，且在 5k RPS 时的额外延迟低于 100 µs。

拥有自己的 AI。原生 macOS AI 代理平台——支持任意模型、持久记忆、自主执行、加密身份。使用 Swift 开发，完全离线，开源。

ERNIE 4.5 与 ERNIEKit 的官方仓库 – 基于 PaddlePaddle 的工业级开发工具套件

快速且灵活的 LLM 推理

将代码库转换为单一 LLM 提示的 CLI 工具，支持源码树、提示模板和 token 计数

AI 驱动的代码伴侣，支持 Claude、GPT、O 系列、Grok、Deepseek、Gemini 及 300+ 模型

🔥 开源浏览器 API，供 AI 代理和应用使用。Steel Browser 是即插即用的浏览器沙盒，让你无需担心基础设施即可自动化网页。

Kimi K3 2.78 兆参数模型，单 CPU 推理 8.24 GB RAM，C99 可携式：无 BLAS、无框架、无 GPU

Android 上功能最强大、发展最久的 AI Agent 与聊天软件

为 LLM 输入优化的文件解析器，无信息丢失 🧠 可解析 PDF、Docx、PPTx，输出适合 LLM 使用的格式。

为你的 GenAI 或 LLM 应用提供开源可观测性，基于 OpenTelemetry

OpenCompass 是一个 LLM 评估平台，支持多种模型（Llama3、Mistral、InternLM2、GPT-4、LLaMa2、Qwen、GLM、Claude 等）以及 100 多个数据集

AI 驱动的下一代开源实时可观测系统

动态且具弹性的 AI 编排。在构建 AI 工作流时协调数据、模型和计算资源。

为大型语言模型添加安全防护措施

合并预训练大型语言模型的工具

永久免费 LLM API 列表（API Keys）。

InternLM 系列正式发布（InternLM、InternLM2、InternLM2.5、InternLM3）

每个人都能看懂的大模型知识分享，LLMs春/秋招大模型面试前必看，让你和面试官侃侃而谈

LLM 驱动的非结构化数据抽取 — 为 API 部署与 ETL 工作流设计

AutoClip：AI 驱动的视频剪辑和亮点生成工具

GLM-5：从 Vibe Coding 到 Agentic Engineering

构建代理工具并端到端控制它。Python & TypeScript 的开源 SDK，支持任何模型、任何云端

中文 LLaMA-2 与 Alpaca-2 大模型二期项目 + 64K 超长上下文模型

加速 Claude Code、Cursor、Codex、Gemini 及所有编码代理：更快、更便宜，并具备针对您代码库的上下文理解

用于构建有状态代理的记忆库

TalkToFigma：AI 代理（Cursor、Claude Code、Codex）与 Figma 之间的 MCP 整合，允许 Agentic AI 与 Figma 通讯以读取设计并以程序方式修改

为基础模型提供数据处理！🍎 🍋 🌽 ➡️ ➡️🍸 🍹 🍷

自动工作日志/时间追踪器。私密地将您的屏幕转换为实际完成工作的时间线。开源且本地优先。

DeepAudit：人人拥有的 AI 黑客战队，让漏洞挖掘触手可及。国内首个开源的代码漏洞挖掘多智能体系统。小白一键部署运行，自主协作审计 + 自动化沙箱 PoC 验证。支持 Ollama 私有部署，一键生成报告。支持中转站。让安全不再昂贵，让审计不再复杂。