llm

計算任何 LLM 所需的 token/s 與 GPU 記憶體需求。支援 llama.cpp/ggml/bnb/QLoRA 量化

在 .NET 中使用 Ollama 最簡單的方法

在 AWS 上使用 AWS CDK 部署多 LLM 與多 RAG 驅動的聊天機器人的模組化且全方位解決方案（Amazon Bedrock、Anthropic、HuggingFace、OpenAI、Meta、AI21、Cohere、Mistral）

llama.go 就像是用純 Golang 實作的 llama.cpp！

在配備 Apple Silicon 的 Mac 上微調 LLMs。支援 SFT、DPO、GRPO、Vision、TTS、STT、Embedding 與 OCR 微調 —— 基於 MLX 原生實現。相容 Unsloth API。

通用 AI 上下文產生器。在 Claude Code、Cursor、Copilot、Codex 等工具中每次對話可節省數千個 Token。

🦙 將 LLM 整合至結構化 NLP 管線中

💃 為你的程式碼注入智慧。Minuet 提供來自熱門 LLM（包含 OpenAI、Gemini、Claude、Ollama、Llama.cpp、Codestral 等）的邊打邊完成（as-you-type）程式碼補全功能。

適用於 Pi coding agent 的省 Token MCP 轉接器

在 React Native 中執行裝置端 LLM，並相容 Vercel AI SDK

使用 E2B 的範例

大型語言模型應用程式的 OWASP Top 10（GenAI 安全專案的一部分）

跨多領域的頂級滲透測試工具與生產力公用程式精選集合。加入我們以探索、貢獻並強化您的駭客工具箱！

一款開源、程式碼優先的 TypeScript 工具套件，用於靈活且可控地建置、評估與部署複雜的 AI Agent。

在商業營運中安全使用生成式 AI 的商業案例應用實作。

功能強大的對話式 AI JavaScript 函式庫 💬 — 適用於任何 LLM 的 UI，支援 LangChain / HuggingFace / Vercel AI 等 🧡 支援 React、Next.js 與原生 JavaScript ⭐️

支援與 MySQL 資料庫進行安全互動的 Model Context Protocol (MCP) 服務器

社群最全面且 持續更新的大型語言模型軟體漏洞偵測研究索引——涵蓋函數層級、程式庫層級、智能代理與智能合約偵測的論文，以及資料集、基準測試與調查。

用於自迴歸模型的統一 KV 快取壓縮方法。

面向 AI 編碼代理的實用 CLI 工具

專為你的 CLI 打造的 LLM

Parallax 是一個分散式模型服務框架，讓您隨處建構自己的 AI 叢集

自主代理（LLMs）研究論文。每日更新。

預設支援每次執行皆可持久化、可重播以及可恢復的 Agent 框架。

NeuroSploit 是一個先進的 AI 驅動滲透測試框架，旨在自動化與增強攻擊性安全操作的各個面向。

TS 後端伺服器的 AI Vibe Coding Agent，透過編譯器技能增強，可產生 100% 可運作的程式碼

📎 Clippy，現在加入了一些 AI

Webchat 轉 API 工具

驅動 E2B Cloud 的基礎設施。

使用 LLM 進行網站爬蟲的輕量級函式庫