llama

华东师范大学 ICALK 推出的开源教育对话模型。开源中英教育对话大模型。(通用基座模型，GPU部署，数据清理) 致敬: LLaMA, MOSS, BELLE, Ziya, vLLM

ChatGPT CLI 是一个强大且支持多供应商的命令行接口，用于操作现代 LLM。支持 OpenAI、Azure、Perplexity、LLaMA 等，并具备流式传输、交互式对话、提示词文件、语音/影像 I/O、MCP 工具调用，以及用于安全多步骤自动化的实验性代理模式。

ChatGPT、GenerativeAI 与 LLMs 时间轴

利用基于知识图谱的检索增强生成（KG-RAG）赋能大型语言模型（LLM），以处理知识密集型任务

自学式生成式 AI 训练营。包含 ML 基础、Ollama、LLM、RAG、LangChain、LangGraph、微调、DSPy 与 AI Agents (CrewAI) 的教程（使用 ChatGPT、gpt-oss、Claude、Qwen、Gemma、Llama、Gemini）

🚀 针对 LLM/VLM 的 PyTorch 分布式原生训练库，开箱即用支持 Hugging Face

针对 Llama 及其变体的高度最佳化 LLM 推理加速引擎。

🤖 精选 Transformer 模型及其可组合组件的 PyTorch 库

本仓库介绍 PIXIU，这是一个开源资源，包含首批金融大型语言模型（LLMs）、指令微调数据与评估基准，以全面评估金融 LLMs。我们的目标是持续推进金融人工智能（AI）的开源发展。

🤖 自动收集的 AI 项目、工具、网站、论文与教程。实用 AI 百宝箱 💎

使用 Strands Agents SDK 建立的 Agent 示例

🤖✨ ChatMLX 是一个基于大语言模型、适用于 macOS 的现代化、开源且高性能的聊天应用程序。

将 Discord 打造成你的 LLM 前端 - 支持任何兼容 OpenAI 的 API（OpenRouter、Ollama 等）

以纯 Java 实现的 Llama 3+ 推理

个人从头使用 1T tokens 训练 1B LLM

以极速进行训练／微调

🚀🚀🚀 收集一些关于大型语言模型（LLM）、视觉语言模型（VLM）、视觉语言动作（VLA）、AI 生成内容（AIGC）以及相关数据集与应用的优秀公开项目。

QiZhenGPT：一个开源的中文医疗大语言模型

LLM 越狱、ChatGPT、Claude、Llama、DAN 提示词、提示词外泄

实时语音助手 —— WebRTC 流式传输、faster-whisper ASR、本地 LLM、Vui Nano (300M) TTS。兼容 OpenAI Realtime API。支持语音克隆、插话打断，在 4090 上约有 9 倍实时性能。采用 Apache 2.0 许可证。

对话式语音 AI agent

收录各种指令数据集与提示词数据集，用于训练 ChatLLM 等模型。

Aligning Large Language Models with Human: A Survey

[ICML 2024] SqueezeLLM：稠密与稀疏量化

[CVPR 2024] MovieChat：用于长视频理解的从密集 Token 到稀疏内存架构

LLaSA: 扩展基于 LLaMA 的语音合成之训练期与推理期算力

Awesome-LLM-Eval：精选的工具、数据集/基准测试、演示、排行榜、论文、文档与模型列表，主要用于 LLM 评估。一个由工具、基准/数据、演示、排行榜和大模型等组成的精选列表，主要面向基础大模型评测，旨在探求生成式AI的技术边界。

[ICLR 2024] Sheared LLaMA：通过结构化剪枝加速语言模型预训练

由 WebGPU 与 WebLLM 驱动的私有本地模型工作室、AI 对话与代理工作区。

基于 LLM 模型的端到端生成式 AI 行业项目与部署_Awesome LLM Projects