llama2

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) 建構至 GPT-4V 級別能力及更高水平。

歡迎使用 Llama Cookbook！這是您使用 Llama 的完整指南：從推論、微調、RAG 入門，我們也示範如何使用 Llama 系列模型解決端到端問題，並在各種服務提供商上部署。

在雲端將任何開源 LLM（如 DeepSeek、Llama）作為兼容 OpenAI 的 API 端點運行。

低程式碼框架，用於構建自訂大型語言模型、神經網路及其他 AI 模型

自託管、離線的類 ChatGPT 聊天機器人。由 Llama 2 提供動力，100% 私密，資料不會離開裝置。新功能：支援 Code Llama！

LMDeploy 是一套用於壓縮、部署與服務 LLM 的工具組。

OpenCompass 是一個 LLM 評估平台，支援多種模型（Llama3、Mistral、InternLM2、GPT-4、LLaMa2、Qwen、GLM、Claude 等）以及 100 多個資料集

中文 LLaMA-2 與 Alpaca-2 大模型二期專案 + 64K 超長上下文模型

Firefly：大模型訓練工具，支援訓練 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

Enchanted 是 iOS 與 macOS 應用程式，可使用 Ollama 與私有自行託管的語言模型（如 Llama2、Mistral 或 Vicuna）聊天

H2O LLM Studio——一個用於微調 LLM 的框架與無代碼 GUI。文件：https://docs.h2o.ai/h2o-llmstudio/

Llama3-中文後訓練版

容錯、可高度擴展的 GPU 編排，以及一個設計用於訓練數十億至數兆參數模型的機器學習框架

由百川智能科技開發的一系列大型語言模型

中文 NLP 解決方案（大模型、資料、模型、訓練、推理）

C#/.NET 函式庫，可在本機裝置高效執行 LLM（🦙LLaMA/LLaVA）

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

分散式 LLM 推理。將家用裝置連接成強大叢集，加速 LLM 推理。裝置越多，推理越快

使用 LLMs（本地或 API）增強 Tesseract OCR 輸出，用於掃描 PDF 的錯誤修正、智慧分塊和 Markdown 格式化

使用 peft 進行 LLM 微調

✨ 完全自主的 AI Agent，能使用終端機、瀏覽器和編輯器執行複雜的任務與專案。

開源大型語言模型的 OpenAI 風格 API，像 ChatGPT 一樣使用 LLM！支援 LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、Xverse、SqlCoder、CodeLLaMA、ChatGLM、ChatGLM2、ChatGLM3 等。開源大模型的統一後端介面

一個簡單、高效能且可擴充的 Jax LLM！

TigerBot：一個多語言多任務 LLM

在單一檔案中以純 🔥 推論 Llama 2

Aila(AI超元域)：Windows、macOS 與 Android 的首選 AI 整合工具。問一次即可從 ChatGPT、Gemini、Claude3、Copilot、Poe、Perplexity 等 10 多個 AI 取得答案。具備可自訂的 AI 與提示詞功能。

在任何地方（Linux/Windows/Mac）透過 GPU 或 CPU 結合 gradio UI 在本地執行任何 Llama 2。使用 `llama2-wrapper` 作為生成式代理／應用程式的本地 llama2 後端。

[ICML 2024] LLMCompiler：用於平行函式呼叫的 LLM 編譯器

建構生產級 RAG 型 LLM 應用程式的全面指南。

計算任何 LLM 所需的 token/s 與 GPU 記憶體需求。支援 llama.cpp/ggml/bnb/QLoRA 量化