llama2

[NeurIPS'23 Oral] Visual Instruction Tuning (LLaVA) 构建至 GPT-4V 级别能力及更高水平。

欢迎使用 Llama Cookbook！这是您使用 Llama 的完整指南：从推理、微调、RAG 入门，我们也示范如何使用 Llama 系列模型解决端到端问题，并在各种服务提供商上部署。

在云端将任何开源 LLM（如 DeepSeek、Llama）作为兼容 OpenAI 的 API 端点运行。

低代码框架，用于构建自定义大型语言模型、神经网络及其他 AI 模型

自托管、离线的类 ChatGPT 聊天机器人。由 Llama 2 提供动力，100% 私密，数据不离开设备。新功能：支持 Code Llama！

LMDeploy 是一套用于压缩、部署与服务 LLM 的工具套件。

OpenCompass 是一个 LLM 评估平台，支持多种模型（Llama3、Mistral、InternLM2、GPT-4、LLaMa2、Qwen、GLM、Claude 等）以及 100 多个数据集

中文 LLaMA-2 与 Alpaca-2 大模型二期项目 + 64K 超长上下文模型

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

Enchanted 是 iOS 和 macOS 应用，用于与私有自行托管的语言模型（如 Llama2、Mistral 或 Vicuna）通过 Ollama 聊天

H2O LLM Studio——一个用于微调 LLM 的框架与无代码 GUI。文档：https://docs.h2o.ai/h2o-llmstudio/

Llama3-中文后训练版

容错、可高度扩展的 GPU 编排，以及一个设计用于训练数十亿至数兆参数模型的机器学习框架

由百川智能科技开发的一系列大型语言模型

中文 NLP 解决方案（大模型、数据、模型、训练、推理）

C#/.NET 函式库，可在本机装置高效执行 LLM（🦙LLaMA/LLaVA）

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

分散式 LLM 推理。将家用设备连接成强大集群，加速 LLM 推理。设备越多，推理越快

使用 LLMs（本地或 API）增强 Tesseract OCR 输出，用于扫描 PDF 的错误修正、智能分块和 Markdown 格式化

使用 peft 进行 LLM 微调

✨ 完全自主的 AI Agent，能使用终端、浏览器和编辑器执行复杂的任务与项目。

开源大型语言模型的 OpenAI 风格 API，像 ChatGPT 一样使用 LLM！支持 LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、Xverse、SqlCoder、CodeLLaMA、ChatGLM、ChatGLM2、ChatGLM3 等。开源大模型的统一后端接口

一个简单、高性能且可扩展的 Jax LLM！

TigerBot：一个多语言多任务 LLM

在单个文件中以纯 🔥 推理 Llama 2

Aila(AI超元域)：Windows、macOS 与 Android 的首选 AI 集成工具。问一次即可从 ChatGPT、Gemini、Claude3、Copilot、Poe、Perplexity 等 10 多个 AI 获取答案。具备可定制的 AI 与提示词功能。

在任何地方（Linux/Windows/Mac）通过 GPU 或 CPU 结合 gradio UI 在本地运行任何 Llama 2。使用 `llama2-wrapper` 作为生成式代理／应用程序的本地 llama2 后端。

[ICML 2024] LLMCompiler：用于并行函数调用的 LLM 编译器

构建生产级 RAG 型 LLM 应用程序的全面指南。

计算任何 LLM 所需的 token/s 与 GPU 内存需求。支持 llama.cpp/ggml/bnb/QLoRA 量化