llm

兼容 Mac 的 Ollama Voice。

在终端机中使用的 T3Code

自架版 Lovable/v0 替代方案，包含实时数据库与存储空间。

macOS 上的设备端会议撷取、听写与原生知识库层。所有数据皆不出 Mac。

A skill for AI agents: search the web with SearXNG, browse with Camofox, bypass protections with CloakBrowser. Anti-hallucination by design. Self-hosted, free, unlimited.

Engine-agnostic LLM gateway in Rust. Full OpenAI & Anthropic API compatibility across vLLM, TRT-LLM, TokenSpeed, SGLang, OpenAI, Gemini & more. Industry-first gRPC pipeline, KV cache-aware routing, chat history, tokenization caching, Responses API, embeddings, WASM plugins, MCP, and multi-tenant auth.

🔥 A Survey on AI Auto-Research

由 LLM 驱动的检索引擎，旨在处理大量来源以收集全面的实体清单

Measure token savings per AI coding agent, optimize context, and share a live local knowledge graph across 16 CLI clients.

用于轻松合并多个 LLM 专家并高效训练合并后 LLM 的库

Open-source AI voice typing for macOS, Windows, and Linux. Press a hotkey, speak naturally, get polished text in any app.

基于 eBPF 的 MCP 监控。

💡 Awesome RAG：LLM 的检索增强生成 (RAG) 资源，专注于技术开发。

通过 MCP 与 VS Code 扩展功能，让任何 LLM（如 Claude）为您交互式调试任何编程语言

专为渴望通过简洁、高效且符合 Go 惯用语的方式探索大型语言模型 (LLM) 与其他生成式 AI 潜力的开发者所设计的函数库

[ACL 2024] 具备区块扩展功能的 Progressive LLaMA。

中文优先的企业 RAG 知识库：可控解析、治理、切块、混合检索、重排、引用、图谱、评测与 Dify 接入。

一个 Model Context Protocol (MCP) 服务器，让 AI 代理与 LLM 能通过标准化接口查询并分析 Prometheus 指标。

使用 RPI Zero 2w / 5 构建的口袋型 AI 聊天机器人

此仓库列出了一些优秀的 CUDA、cuda-python、cuBLAS、cuDNN、CUTLASS、TensorRT、TensorRT-LLM、Triton、TVM、MLIR、PTX 与高性能计算 (HPC) 项目。

开源、本地且可自托管的高性能语言推理服务器，支持通过 WebRTC、REST 与 WS 进行 ASR/STT、TTS 与 LLM 推理

A systematic AI Agent development tutorial covering LLM agents, RAG, tool use, memory systems, multi-agent systems, LangChain, LangGraph, MCP, and agentic RL.｜从零开始学 AI Agent 开发 | 系统、全面、实战导向的 Agent 开发教程 | 每日自动追踪 arXiv 最新论文 | Learn AI Agent Development from Scratch

🚀 轻量级大型语言模型自动化与自主语言代理开发框架。以 Python 风格构建你的 LLM 代理应用程序！

RESTai 是一个 AIaaS (AI as a Service) 开源平台。支持多种由 Ollama/vLLM 等驱动的公有与本地 LLM。提供精确的嵌入使用、微调、分析等功能。内置具备动态加载生成器的图像/音频生成功能、即时聊天部署、基于区块的图形化语言、提示词版本控制等。

🌍 AppWorld: A Controllable World of Apps and People for Benchmarking Function Calling and Interactive Coding Agent, ACL'24 Best Resource Paper.

AI Vim/Neovim 代码生成插件（支持 OpenAI、ChatGPT 等）

此仓库包含为了更好地理解该开放项目所创建的文档

🎯 The definitive collection of 50+ verified Awesome Claude Skills for Claude Code, Claude.ai, and API. Boost productivity with TDD, debugging, git workflows, document processing, and more. Community-driven, actively maintained.

使用 LLM 创建知识图谱

Safe runtime for autonomous on-chain AI agents: isolated sandboxes, Library skills, encrypted secrets.