llama2

針對 ChatGPT 等大型語言模型（LLMs）與自訂資料的 LangChain 與 Prompt Engineering 教學。包含用於載入與索引資料、建立 Prompt 範本、CSV 代理程式，以及使用檢索 QA 鏈來查詢自訂資料的 Jupyter notebooks。包含使用私有 LLM（Llama 2）與 PDF 檔案對話、推文情感分析等專案。

使用本地 AI 與你的文件對話

一個使用預先計算的嵌入向量與先進相似度量測進行語意文字搜尋的 FastAPI 服務，透過 textract 內建支援多種檔案類型。

一個針對 LLM 打造、以高吞吐量為導向的高效能服務框架

利用基於知識圖譜的檢索增強生成（KG-RAG）賦能大型語言模型（LLM），以處理知識密集型任務

[ICLR 2025] 透過提示已對齊的 LLMs 從零開始進行對齊資料合成。您的高效且高品質合成資料生成管線！

用於微調、消融與單元測試開源 LLM 的工具組。

使用 Microsoft 的 Copilot 堆疊來構想具備 AI 智慧產品體驗的智慧應用程式範例。

Aligning Large Language Models with Human: A Survey

可在本地執行的個人穿戴式 AI

[ICLR 2024] Sheared LLaMA：透過結構化剪枝加速語言模型預訓練

整合 ChatGPT API、Bard API、Llama2、Python-Nmap、DNS Recon、PCAP 與 JWT Recon 模組，並利用 GPT3 模型根據 Nmap 掃描資料與 DNS 資訊建立弱點報告。亦可進行大規模子網域枚舉。

[ECCV2024] 具備局部視覺標記化功能的接地多模態大型語言模型

LLM (大型語言模型) 微調

使用 AnglE 訓練與推論強大的句子嵌入 | 🔥 STS 與 MTEB 排行榜 SOTA

校招、秋招、春招與實習專案，帶您從零實作支援 LLama2/3 與 Qwen2.5 的大模型推理框架。

在 Visual Studio Code 中搭配 Continue 擴充功能使用 Code Llama。這是 GitHub Copilot 的本地 LLM 替代方案。

從 0 到 1 建構一個 MiniLLM（實踐中包含預訓練、SFT 與 DPO）。

[ACL 2024] 具備區塊擴充功能的 Progressive LLaMA。

使用 LLM 建立知識圖譜