llama

中文 NLP 解決方案（大模型、資料、模型、訓練、推理）

可擴展至數千個微調LLM的Multi-LoRA推理伺服器

C#/.NET 函式庫，可在本機裝置高效執行 LLM（🦙LLaMA/LLaVA）

Eagle：採用以數據為中心策略的前沿視覺語言模型

基於 LangChain 與 ChatGLM-6B 等系列 LLM 的本地知識庫自動問答

一款原生的 macOS 應用程式，讓使用者無需安裝任何其他軟體，即可與本地 LLM 進行對話，並根據 Mac 上的檔案、資料夾和網站資訊進行回覆。由 llama.cpp 驅動。

從零開始構建現代 LLM。逐行註解。用五歲小孩也能聽懂的方式解釋。

在 Apple Silicon 上 100% 本地執行 Claude Code，使用本地 AI。MLX 原生 Anthropic-API 伺服器。包含 6 個模型，包括 Muse-Glimmer 30B（現在支援多模態——可讀取圖像，已被消除）、Gemma 4 31B、Qwen 3.5 122B（65 tok/s）、DeepSeek V4 Flash（1M 上下文）。私有、離線、可隔離。為 NDA / 法律 / 醫療工作流程而建。

終端免費 AI 聊天機器人

AGiXT 是一個動態 AI Agent 自動化平台，可跨多個 AI 提供商無縫協調指令管理與複雜任務執行。結合自適應記憶、智慧功能與多功能外掛系統，AGiXT 提供高效且全面的 AI 解決方案。

InternGPT (iGPT) 是一個開源演示平台，您可以輕鬆展示 AI 模型。現在支持 DragGAN、ChatGPT、ImageBind、多模態聊天如 GPT-4、SAM、互動圖像編輯等。試試 igpt.opengvlab.com（支持 DragGAN、ChatGPT、ImageBind、SAM 的線上 Demo 系統）

LSP-AI 是一個開源語言伺服器，作為 AI 驅動功能的後端，旨在協助並賦能軟體工程師，而非取代他們。

[EMNLP 2023 Demo] Video-LLaMA：一個針對視頻理解的指令調優音視覺語言模型

Chinese-LLaMA 1&2、Chinese-Falcon 基礎模型；ChatFlow 中文對話模型；中文 OpenLLaMA 模型；NLP 預訓練/指令微調資料集

使用 peft 進行 LLM 微調

PyTorch 原生量化，用于训练和推理

[ACL 2024] 一個易於使用的 LLM 知識編輯框架。

建立、個人化並控制您自己的 LLM。從資料前處理到微調，xTuring 提供了一種簡單的方法來個人化開源 LLM。加入我們的 discord 社群：https://discord.gg/TgHXuSJEk6

[EMNLP-2024] 建立適用於快速原型與生產的多模態語言代理程式

Maid 是一個免費且開源的應用程式，用於本機介接 llama.cpp 模型，以及遠端介接 Anthropic、DeepSeek、Ollama、Mistral 和 OpenAI 模型。

強大的 Zotero AI 與 MCP 外掛，整合 ChatGPT、Gemini 3.6、Claude Fable 5、Claude Sonnet 5、DeepSeek V4、Grok、OpenRouter、Kimi k3、GLM 5.2、SiliconFlow、GPT-oss、Gemma 4、Qwen 3.7

mPLUG-Owl：強大的多模態大型語言模型系列

讓大型語言模型（LLM）變得簡單，EasyLM 是在 JAX/Flax 中進行 LLM 預訓練、微調、評估與服務的一站式解決方案。

一個輕快、以鍵盤為中心的終端機使用者介面，用於與大型語言模型互動。可與 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等聊天。

開源大型語言模型的 OpenAI 風格 API，像 ChatGPT 一樣使用 LLM！支援 LLaMA、LLaMA-2、BLOOM、Falcon、Baichuan、Qwen、Xverse、SqlCoder、CodeLLaMA、ChatGLM、ChatGLM2、ChatGLM3 等。開源大模型的統一後端介面

ComfyUI 中的 LLM Agent 框架，包含 MCP server、Omost、GPT-sovits、ChatTTS、GOT-OCR2.0 與 FLUX prompt 節點，支援存取飛書、Discord，並適配所有具備類似 OpenAI / aisuite 介面的 LLM，例如 o1、ollama、gemini、grok、qwen、GLM、deepseek、kimi、doubao。已適配本地 LLM、VLM、GGUF（如 llama-3.3 Janus-Pro、Linkage graphRAG）

FinGLM：致力於建構一個開放的、公益的、持久的金融大模型專案，利用開源開放來促進「AI+金融」。

在 Rust 中實現即時、可控的本機預訓練 AI 模型

使用 llama.cpp 的 node.js 綁定在本地機器上執行 AI 模型。在生成層級強制模型輸出符合 JSON schema

一個安全的低程式碼欺騙執行時期框架，利用 AI 進行系統虛擬化。