vicuna

開源代理式 AI 數據助理，面向下一代 AI + Data 產品

在雲端將任何開源 LLM（如 DeepSeek、Llama）作為兼容 OpenAI 的 API 端點運行。

Chinese-Vicuna：中文指令跟隨 LLaMA 模型 —— 一個中文低資源的 llama+lora 方案，結構參考 alpaca

InternGPT (iGPT) 是一個開源演示平台，您可以輕鬆展示 AI 模型。現在支持 DragGAN、ChatGPT、ImageBind、多模態聊天如 GPT-4、SAM、互動圖像編輯等。試試 igpt.opengvlab.com（支持 DragGAN、ChatGPT、ImageBind、SAM 的線上 Demo 系統）

Safe RLHF：透過來自人類回饋的安全強化學習進行受約束的價值對齊

[ACL 2024 🔥] Video-ChatGPT 是一個能夠針對影片產生有意義對話的影片對話模型。它結合了 LLM 的能力與適應時空影片表示的預訓練視覺編碼器。我們也為基於影片的對話模型引入了嚴格的「量化評估基準」。

llama.go 就像是用純 Golang 實作的 llama.cpp！

[NeurIPS 2023] LLM-Pruner：大型語言模型的結構化剪枝。支援 Llama-3/3.1、Llama-2、LLaMA、BLOOM、Vicuna、Baichuan、TinyLlama 等。

開源、本地且可自託管的高效能語言推論伺服器，支援透過 WebRTC、REST 與 WS 進行 ASR/STT、TTS 與 LLM 推論