dvmazur/mixtral-offloading

在 Colab 或消费级桌面上运行 Mixtral-8x7B 模型

↗ 在 GitHub 打开

星数

2,334

Fork 数

225

语言

Python

许可

MIT

最后推送

2年前

Python llm deep-learning language-model pytorch quantization mixture-of-experts colab-notebook google-colab offloading

还没有相关情报

radar 追踪的来源里还没有出现过这个 repo。收集器按计划运行——等它覆盖到这个 repo 再回来看看。