llama

快速上手 Kimi-K2.6、GLM-5.2、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等模型。

高吞吐量且内存效率高的 LLM 推理与服务引擎

本机 UI，用于运行与训练 LLM 与扩散模型，支持 Qwen3.8、Kimi K3、MiniMax-H3、Gemma 4、DeepSeek-V4、FLUX 等多种模型

统一高效微调 100 多种 LLM 与 VLM（ACL 2024）

LocalAI 为开源 AI 引擎，可在任何硬件上运行任意模型（LLM、视觉、语音、图像、视频），无需 GPU

aider 是在终端中提供 AI 配对编程的工具。

AI 代理助理与开发框架，整合多种即时通讯平台、LLM、插件与 AI 功能，可作为您的 openclaw 替代方案。✨

Langchain-Chatchat（原 Langchain-ChatGLM）基于 Langchain 与 ChatGLM、Qwen 与 Llama 等语言模型的 RAG 与 Agent 应用

AirLLM 70B 推理可在单张 4GB GPU 上执行

SGLang 是针对大型语言模型与多模态模型的高性能服务框架

SOTA 开源文字转语音

📦 Repomix 是一款强大的工具，可将整个仓库打包成单一、适合 AI 使用的文件。当需要将代码库喂给大型语言模型（LLM）或其他 AI 工具（如 Claude、ChatGPT、DeepSeek、Perplexity、Gemini、Gemma、Llama、Grok 等）时，非常实用

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) 构建至 GPT-4V 级别能力及更高水平。

整理开源的中文大语言模型，以规模较小、可私有化部署、训练成本较低的模型为主，包括底座模型、垂直领域微调及应用、数据集与教程等。

中文 LLaMA 与 Alpaca 大语言模型 + 本地 CPU/GPU 训练部署

欢迎使用 Llama Cookbook！这是您使用 Llama 的完整指南：从推理、微调、RAG 入门，我们也示范如何使用 Llama 系列模型解决端到端问题，并在各种服务提供商上部署。

使用 PEFT 或 Full-parameter 对 600+ LLM（Qwen3.6、DeepSeek-V4、GLM-5.1、InternLM3、Llama4、...）和 300+ MLLM（Qwen3-VL、Qwen3-Omni、InternVL3.5、Ovis2.5、GLM4.5v、Gemma4、Llava、Phi4、...）进行 CPT/SFT/DPO/GRPO（AAAI 2025）

ChatGPT API 与多种 LLM 的 GUI，支持代理、基于文件的问答、GPT 微调与网页搜索查询，全部配备整洁 UI

Llama中文社区，实时汇总最新Llama学习资料，构建最好的中文Llama大模型开源生态，完全开源可商用

LangChain4j 是一个符合惯用语法的开源 Java 库，用于在 JVM 上构建 LLM 驱动的应用程序。它提供对主流 LLM 供应商与向量数据库的统一 API，并简化工具调用（含 MCP 支持）、代理与 RAG 的实现，且能与 Quarkus、Spring Boot 等企业级 Java 框架无缝集成。

易于使用且功能强大的 LLM 与 SLM 库，拥有精彩的模型仓库

在本机上运行 LLaMA 的最简单方法

在云端将任何开源 LLM（如 DeepSeek、Llama）作为兼容 OpenAI 的 API 端点运行。

一款由 AI 大型语言模型（如 GPT-5）驱动的命令行生产力工具，帮助更快速、更高效完成任务

BISHENG 是一个开源 LLM DevOps 平台，支持下一代企业 AI 应用。功能包括：GenAI 工作流、RAG、Agent、统一模型管理、评估、SFT、数据集管理、企业级系统管理、可观测性等。

低代码框架，用于构建自定义大型语言模型、神经网络及其他 AI 模型

自托管、离线的类 ChatGPT 聊天机器人。由 Llama 2 提供动力，100% 私密，数据不离开设备。新功能：支持 Code Llama！

🌸 在家以 BitTorrent 方式运行 LLM，微调与推理速度提升至 10 倍以上

高速大型语言模型本地部署服务

轻松微调、评估与部署 Qwen、Gemma 或任何开放权重的 LLM！