mixtral

🌸 在家以 BitTorrent 方式運行 LLM，微調與推論速度提升至 10 倍以上

Firefly：大模型訓練工具，支援訓練 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

終端免費 AI 聊天機器人

一個輕快、以鍵盤為中心的終端機使用者介面，用於與大型語言模型互動。可與 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等聊天。

一個簡單、高效能且可擴充的 Jax LLM！

Ollama 的 Mac 應用程式

[EMNLP 2024 & AAAI 2026] 一個強大的大型模型壓縮工具包，包含 LLM、VLM 及影片生成模型。

簡單且高效的 LLM 微調工具（支援 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化訓練與部署。

中文 Mixtral 混合專家大模型（Chinese Mixtral MoE LLMs）

🏗️ 輕鬆微調、建置與部署開源 LLM！