dvmazur/mixtral-offloading

在 Colab 或消費級桌機上執行 Mixtral-8x7B 模型

↗ 在 GitHub 開啟

星數

2,334

Fork 數

225

語言

Python

授權

MIT

最後推送

2 年前

Python llm deep-learning language-model pytorch quantization mixture-of-experts colab-notebook google-colab offloading

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。