llama

中文 NLP 解决方案（大模型、数据、模型、训练、推理）

可扩展至数千个微调LLM的Multi-LoRA推理服务器

C#/.NET 函式库，可在本机装置高效执行 LLM（🦙LLaMA/LLaVA）

Eagle：采用以数据为中心策略的前沿视觉语言模型

从零开始构建现代 LLM。逐行注释。用五岁小孩也能听懂的方式解释。

一款原生的 macOS 应用程序，让用户无需安装任何其他软件，即可与本地 LLM 进行对话，并根据 Mac 上的文件、文件夹和网站信息进行回复。由 llama.cpp 驱动。

基于 LangChain 与 ChatGLM-6B 等系列 LLM 的本地知识库自动问答

在 Apple Silicon 上 100% 本地执行 Claude Code，使用本地 AI。MLX 原生 Anthropic-API 服务器。包含 6 个模型，包括 Muse-Glimmer 30B（现在多模态——可读取图像，已被消除）、Gemma 4 31B、Qwen 3.5 122B（65 tok/s）、DeepSeek V4 Flash（1M 上下文）。私有、离线、可隔离。为 NDA / 法律 / 医疗工作流程而建。

终端免费 AI 聊天机器人

AGiXT 是一个动态 AI Agent 自动化平台，可跨多个 AI 提供商无缝协调指令管理与复杂任务执行。结合自适应记忆、智能功能与多功能插件系统，AGiXT 提供高效且全面的 AI 解决方案。

LSP-AI 是一个开源语言服务器，作为 AI 驱动功能的后端，旨在协助并赋能软件工程师，而非取代他们。

InternGPT (iGPT) 是一个开源演示平台，您可以轻松展示 AI 模型。现在支持 DragGAN、ChatGPT、ImageBind、多模态聊天如 GPT-4、SAM、互动图像编辑等。试试 igpt.opengvlab.com（支持 DragGAN、ChatGPT、ImageBind、SAM 的线上 Demo 系统）

[EMNLP 2023 Demo] Video-LLaMA：一个针对视频理解的指令调优音视觉语言模型

Chinese-LLaMA 1&2、Chinese-Falcon 基础模型；ChatFlow 中文对话模型；中文 OpenLLaMA 模型；NLP 预训练/指令微调数据集

使用 peft 进行 LLM 微调

PyTorch 原生量化，用于训练和推理

[ACL 2024] 一个易于使用的 LLM 知识编辑框架。

Maid 是一个免费且开源的应用程序，用于本地对接 llama.cpp 模型，以及远程对接 Anthropic、DeepSeek、Ollama、Mistral 和 OpenAI 模型。

构建、个性化并控制您自己的 LLM。从数据预处理到微调，xTuring 提供了一种简单的方法来个性化开源 LLM。加入我们的 discord 社区：https://discord.gg/TgHXuSJEk6

[EMNLP-2024] 构建适用于快速原型与生产的多模态语言代理

强大的 Zotero AI 与 MCP 插件，整合 ChatGPT、Gemini 3.6、Claude Fable 5、Claude Sonnet 5、DeepSeek V4、Grok、OpenRouter、Kimi k3、GLM 5.2、SiliconFlow、GPT-oss、Gemma 4、Qwen 3.7

mPLUG-Owl：强大的多模态大语言模型系列

让大型语言模型（LLM）变得简单，EasyLM 是在 JAX/Flax 中进行 LLM 预训练、微调、评估与服务的一站式解决方案。

一个轻快、以键盘为中心的终端用户界面，用于与大型语言模型互动。可与 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等聊天。

开源大型语言模型的 OpenAI 风格 API，像 ChatGPT 一样使用 LLM！支持 LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、Xverse、SqlCoder、CodeLLaMA、ChatGLM、ChatGLM2、ChatGLM3 等。开源大模型的统一后端接口

ComfyUI 中的 LLM Agent 框架，包含 MCP server、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0 与 FLUX prompt 节点，支持访问飞书、Discord，并适配所有具备类似 OpenAI / aisuite 接口的 LLM，例如 o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubao。已适配本地 LLM、VLM、GGUF（如 llama-3.3 Janus-Pro、Linkage graphRAG）

FinGLM：致力于构建一个开放的、公益的、持久的金融大模型项目，利用开源开放来促进“AI+金融”。

在 Rust 中实现即时、可控的本地预训练 AI 模型

使用 llama.cpp 的 node.js 绑定在本地机器上运行 AI 模型。在生成层级强制模型输出符合 JSON schema

一个安全的低代码欺骗运行时框架，利用 AI 进行系统虚拟化。