llama

🧑‍🚀 全球最佳 LLM 資料彙總（多模態生成、Agent、輔助編程、AI審稿、資料處理、模型訓練、模型推理、o1 模型、MCP、小語言模型、視覺語言模型）

BELLE：Be Everyone's Large Language model Engine（開源中文對話大模型）

LLM 的語意快取。與 LangChain 與 llama_index 完全整合。

為每個人賦予 Kubernetes 超能力

LMDeploy 是一套用於壓縮、部署與服務 LLM 的工具組。

Android 上功能最強大、發展最久的 AI 代理與聊天軟體

合併預訓練大型語言模型的工具

中文 LLaMA-2 與 Alpaca-2 大模型二期專案 + 64K 超長上下文模型

使用大型語言模型將任何網頁轉換為結構化資料

Firefly：大模型訓練工具，支援訓練 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

用於 LLM 訓練的高效 Triton 核心

YuE：開放式全曲音樂生成基礎模型，類似 Suno.ai 但開源

Enchanted 是 iOS 與 macOS 應用程式，可使用 Ollama 與私有自行託管的語言模型（如 Llama2、Mistral 或 Vicuna）聊天

使用 OpenAI API、Ollama、Deepseek‑r1、Azure 以及所有相容 OpenAI API 的服務，自動分析並標記 Paperless‑ngx 文件的自動化文件分析器。

⚡ 純 Rust WebGPU 推理引擎 — OpenAI-API 兼容，GGUF 原生，支援任何 GPU。無 Python，無 llama.cpp，單一二進位檔。

MedicalGPT：使用 ChatGPT 訓練管線訓練您自己的醫療 GPT 模型。實現增量預訓練（PT）、有監督微調（SFT）、RLHF、DPO、ORPO、GRPO 等功能。

由 BaiChuan-Inc 開發的大規模 7B 預訓練語言模型

一個 GPU 叢集管理器，用於高效能 AI 模型服務（vLLM、SGLang）以及按需可 SSH 存取的 GPU 實例。

Lemonade 幫助用戶發現並運行本地 AI 應用，直接在自己的 GPU 和 NPU 上提供優化 LLM，加入我們的 Discord：https://discord.gg/5xXzkMu8Zk

可靠的模型切換，適用於任何本地 OpenAI/Anthropic 兼容伺服器 - llama.cpp、vllm 等

面向 AI 研究者的开源研究环境，支持从本地硬件到 GPU 集群无缝训练、评估和扩展模型。

H2O LLM Studio——一個用於微調 LLM 的框架與無代碼 GUI。文件：https://docs.h2o.ai/h2o-llmstudio/

《大模型白盒子构建指南》：一個全手搓的 Tiny-Universe

BenCao（原名：HuaTuo）模型倉庫，基於中文醫學知識的大語言模型指令微調

僅需 Python 基礎，從零開始構建大語言模型；逐步構建 GLM4、Llama3、RWKV6，深入理解大模型原理

LightLLM 是一個基於 Python 的 LLM（大型語言模型）推理與服務框架，以輕量化設計、易於擴展與高速性能著稱

Llama3-中文後訓練版

容錯、可高度擴展的 GPU 編排，以及一個設計用於訓練數十億至數兆參數模型的機器學習框架

Chinese-Vicuna：中文指令跟隨 LLaMA 模型 —— 一個中文低資源的 llama+lora 方案，結構參考 alpaca

利用多代理程式設計驅動大型語言模型。