llama

🧑‍🚀 全球最佳 LLM 资料总结（多模态生成、Agent、辅助编程、AI审稿、数据处理、模型训练、模型推理、o1 模型、MCP、小语言模型、视觉语言模型）

BELLE：Be Everyone's Large Language model Engine（开源中文对话大模型）

LLM 的语义缓存。与 LangChain 和 llama_index 完全集成。

为每个人赋予 Kubernetes 超能力

LMDeploy 是一套用于压缩、部署与服务 LLM 的工具套件。

Android 上功能最强大、发展最久的 AI Agent 与聊天软件

合并预训练大型语言模型的工具

中文 LLaMA-2 与 Alpaca-2 大模型二期项目 + 64K 超长上下文模型

使用大型语言模型将任何网页转换为结构化数据

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

用于 LLM 训练的高效 Triton 核心

YuE：开放式全曲音乐生成基础模型，类似 Suno.ai 但开源

Enchanted 是 iOS 和 macOS 应用，用于与私有自行托管的语言模型（如 Llama2、Mistral 或 Vicuna）通过 Ollama 聊天

使用 OpenAI API、Ollama、Deepseek‑r1、Azure 以及所有兼容 OpenAI API 的服务，自动分析并标记 Paperless‑ngx 文档的自动化文档分析器。

⚡ 纯 Rust WebGPU 推理引擎 — OpenAI-API 兼容，GGUF 原生，支持任何 GPU。无 Python，無 llama.cpp，单一二进位文件。

MedicalGPT：使用 ChatGPT 训练管线训练您自己的医疗 GPT 模型。实现增量预训练（PT）、有监督微调（SFT）、RLHF、DPO、ORPO、GRPO 等功能。

由 BaiChuan-Inc 开发的大规模 7B 预训练语言模型

一个 GPU 集群管理器，用于高效能 AI 模型服务（vLLM、SGLang）以及按需可 SSH 访问的 GPU 实例。

Lemonade 帮助用户发现并运行本地 AI 应用，直接在自己的 GPU 和 NPU 上提供优化 LLM，加入我们的 Discord：https://discord.gg/5xXzkMu8Zk

可靠的模型切换，适用于任何本地 OpenAI/Anthropic 兼容服务器 - llama.cpp、vllm 等

面向 AI 研究者的开源研究环境，支持从本地硬件到 GPU 集群无缝训练、评估和扩展模型。

H2O LLM Studio——一个用于微调 LLM 的框架与无代码 GUI。文档：https://docs.h2o.ai/h2o-llmstudio/

《大模型白盒子构建指南》：一个全手搓的 Tiny-Universe

BenCao（原名：HuaTuo）模型仓库，基于中文医学知识的大语言模型指令微调

仅需 Python 基础，从零开始构建大语言模型；逐步构建 GLM4、Llama3、RWKV6，深入理解大模型原理

LightLLM 是一个基于 Python 的 LLM（大型语言模型）推理与服务框架，以轻量化设计、易于扩展与高速性能著称

Llama3-中文后训练版

容错、可高度扩展的 GPU 编排，以及一个设计用于训练数十亿至数兆参数模型的机器学习框架

Chinese-Vicuna: A Chinese Instruction-following LLaMA-based Model —— 一个中文低资源的llama+lora方案，结构参考alpaca

利用多代理程序设计驱动大型语言模型。