llm

计算任何 LLM 所需的 token/s 与 GPU 内存需求。支持 llama.cpp/ggml/bnb/QLoRA 量化

在 .NET 中使用 Ollama 最简单的方法

在 AWS 上使用 AWS CDK 部署多 LLM 与多 RAG 驱动的聊天机器人的模块化且全方位解决方案（Amazon Bedrock、Anthropic、HuggingFace、OpenAI、Meta、AI21、Cohere、Mistral）

llama.go 就像是用纯 Golang 实现的 llama.cpp！

在配备 Apple Silicon 的 Mac 上微调 LLMs。支持 SFT、DPO、GRPO、Vision、TTS、STT、Embedding 与 OCR 微调 —— 基于 MLX 原生实现。兼容 Unsloth API。

通用 AI 上下文生成器。在 Claude Code、Cursor、Copilot、Codex 等工具中每次对话可节省数千个 Token。

🦙 将 LLM 整合至结构化 NLP 流水线中

💃 为你的代码注入智慧。Minuet 提供来自热门 LLM（包含 OpenAI、Gemini、Claude、Ollama、Llama.cpp、Codestral 等）的边打边完成（as-you-type）代码补全功能。

在 React Native 中执行设备端 LLM，并相容 Vercel AI SDK

适用于 Pi coding agent 的省 Token MCP 适配器

使用 E2B 的示例

大型语言模型应用程序的 OWASP Top 10（GenAI 安全项目的一部分）

跨多个领域的顶级渗透测试工具与生产力实用程序精选集合。加入我们以探索、贡献并增强您的黑客工具箱！

功能强大的对话式 AI JavaScript 库 💬 — 适用于任何 LLM 的 UI，支持 LangChain / HuggingFace / Vercel AI 等 🧡 支持 React、Next.js 与原生 JavaScript ⭐️

一款开源、代码优先的 TypeScript 工具套件，用于灵活且可控地构建、评估和部署复杂的 AI Agent。

在商业运营中安全使用生成式 AI 的业务用例应用实现。

社群最全面且持续更新的大型语言模型软件漏洞检测研究索引——涵盖函数层级、代码库层级、智能代理与智能合约检测的论文，以及数据集、基准测试与调查。

支持与 MySQL 数据库进行安全交互的 Model Context Protocol (MCP) 服务器

用于自回归模型的统一 KV 缓存压缩方法。

面向 AI 编码代理的实用 CLI 工具

专为你的 CLI 打造的 LLM

Parallax 是一个分布式模型服务框架，让您随处构建自己的 AI 集群

自主代理（LLMs）研究论文。每日更新。

默认支持每次运行皆可持久化、可重播以及可恢复的 Agent 框架。

NeuroSploit 是一个先进的 AI 驱动渗透测试框架，旨在自动化与增强攻击性安全操作的各个面向。

TS 后端服务器的 AI Vibe Coding Agent，通过编译器技能增强，可生成 100% 可运行的代码

📎 Clippy，现在加入了一些 AI

Webchat 转 API 工具

驱动 E2B Cloud 的基础设施。

使用 LLM 进行网站爬虫的轻量级库