llm

llama.cpp 的 WebAssembly 绑定 - 实现浏览器端 LLM 推理

您的软件工厂 - 通过 24/7 运行的多节点代理程序，更快、更好地构建软件

Model Context Protocol 的 Ruby 实现

整合 Lovable 与 Supabase 的开源替代方案！

双语会议的实时双向语音翻译 — 自动检测说话语言并进行双向翻译，支持云端或完全离线设备端。支持桌面版（Windows、macOS、Linux）以及适用于 Zoom、Meet、Teams 与任何应用程序的浏览器扩展程序（Chrome、Edge）。

半结构化 Agentic 框架。工作流程会随着 Agent 发现需要完成的事项而自行构建，而非根据你预先预测的内容。

由 AI 驱动的 Vim 代码助手。适用于 Vim 与 Neovim 的 OpenAI 与 ChatGPT 插件。

600 行 TypeScript 写成的超级迷你版 pi，让你轻松从 0 写出属于你的 pi-agent

Inkdown 是一个所见即所得编辑器与 LLM 对话工具，完全兼容于 GitHub Flavored Markdown 规范。

一个完全在浏览器中运行的极简 LLM 对话应用程序

使用 Apple Foundation Models 框架构建、测试与评估应用程序的实作实验室。

明医 (MING)：中文医疗问诊大模型

针对 AI agents 的追踪原生 CI/CD — 生产环境失败转化为阻挡 PR 的回归测试。自动检测、分群、封装为隔离案例，在 CI 中以 0 美元重放。

为任何 AI agent 编译的 LLM 知识库。支持并行多 agent 研究、论文导向调查、来源吞吐、维基编译、查询与产物生成。

🌎💎 开发者的第一个书签

结合语言模型统一 3D 网格生成

Agentic SOC 平台：功能强大、灵活、开源且以 Agent 为中心的自动化安全运营平台（AI SOC）

A-MEM：LLM Agent 的代理式内存

赋予 agent 强大能力的工具集。

由 LangChain 驱动的 Shell 命令生成器与运行 CLI

用于下载 HuggingFace 模型与数据集的简单 Go 工具。

AI辅助长篇小说创作，卡片式创作，支持基于 JSON Schema的结构化 AI 生成与上下文引用，可扩展性强。

使用环境评估并改善模型与 agent

通过低代码方式简化开发者与非技术用户的 Prompt 设计。

一款桌面端 MCP 客户端，设计为工具单一公用程序集成，通过 Model Context Protocol (MCP) 加速 AI 采用，并支持跨供应商的 LLM API 编排。

轻松训练推测解码模型并平滑移植到 SGLang 服务中。

[NeurIPS 2023] LLM-Pruner：大型语言模型的结构化剪枝。支持 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

FP16xINT4 LLM 推理核心，在 16-32 个 token 的中等批次大小下，可实现近乎理想的约 4 倍加速。

一个开源、类似 PyTorch 的运行时，用于动态多智能体与多会话工作流。

NativeMind：您的完全私密、开源、端侧 AI 助理