mixtral

🌸 在家以 BitTorrent 方式运行 LLM，微调与推理速度提升至 10 倍以上

Firefly：大模型训练工具，支持训练 Qwen2.5、Qwen2、Yi1.5、Phi-3、Llama3、Gemma、MiniCPM、Yi、Deepseek、Orion、Xverse、Mixtral-8x7B、Zephyr、Mistral、Baichuan2、Llma2、Llama、Qwen、Baichuan、ChatGLM2、InternLM、Ziya2、Vicuna、Bloom 等大模型。

终端免费 AI 聊天机器人

一个轻快、以键盘为中心的终端用户界面，用于与大型语言模型互动。可与 ChatGPT、Claude、Llama 3、Phi 3、Mistral、Gemma 等聊天。

一个简单、高性能且可扩展的 Jax LLM！

Ollama 的 Mac 应用程序

[EMNLP 2024 & AAAI 2026] 一个强大的大型模型压缩工具包，包含 LLM、VLM 及视频生成模型。

简单且高效的 LLM 微调工具（支持 LLaMA、LLaMA2、LLaMA3、Qwen、Baichuan、GLM、Falcon），大模型高效量化训练与部署。

中文 Mixtral 混合专家大模型（Chinese Mixtral MoE LLMs）

🏗️ 轻松微调、构建与部署开源 LLM！