llama2

针对 ChatGPT 等大型语言模型（LLMs）与自定义数据的 LangChain 与 Prompt Engineering 教程。包含用于加载与索引资料、建立 Prompt 模板、CSV 代理程序，以及使用检索 QA 链来查询自定义数据的 Jupyter notebooks。包含使用私有 LLM（Llama 2）与 PDF 文件对话、推文情感分析等项目。

使用本地 AI 与你的文档对话

一个使用预先计算的嵌入向量与先进相似度量测进行语意文字搜寻的 FastAPI 服务，透过 textract 内建支援多种档案类型。

一个针对 LLM 打造、以高吞吐量为导向的高性能服务框架

利用基于知识图谱的检索增强生成（KG-RAG）赋能大型语言模型（LLM），以处理知识密集型任务

[ICLR 2025] 通过提示已对齐的 LLMs 从零开始进行对齐数据合成。您的高效且高质量合成数据生成管线！

用于微调、消融与单元测试开源 LLM 的工具组。

使用 Microsoft 的 Copilot 堆栈来构想具备 AI 智慧产品体验的智能应用程序示例。

Aligning Large Language Models with Human: A Survey

可在本地运行的个人可穿戴 AI

[ICLR 2024] Sheared LLaMA：通过结构化剪枝加速语言模型预训练

整合 ChatGPT API、Bard API、Llama2、Python-Nmap、DNS Recon、PCAP 与 JWT Recon 模块，并利用 GPT3 模型根据 Nmap 扫描数据与 DNS 信息建立漏洞报告。亦可进行大规模子域名枚举。

[ECCV2024] 具备局部视觉标记化功能的接地多模态大型语言模型

LLM (大型语言模型) 微调

校招、秋招、春招与实习项目，带您从零实现支持 LLama2/3 与 Qwen2.5 的大模型推理框架。

使用 AnglE 训练与推论强大的句子嵌入 | 🔥 STS 与 MTEB 排行榜 SOTA

在 Visual Studio Code 中搭配 Continue 扩展功能使用 Code Llama。这是 GitHub Copilot 的本地 LLM 替代方案。

从 0 到 1 构建一个 MiniLLM（实践中包含预训练、SFT 与 DPO）。

[ACL 2024] 具备区块扩展功能的 Progressive LLaMA。

使用 LLM 创建知识图谱