dvmazur/mixtral-offloading

Google Colab や一般のデスクトップで Mixtral-8x7B モデルを実行する

↗ GitHub で開く

スター

2,334

フォーク

225

言語

Python

ライセンス

MIT

最終プッシュ

2 年前

Python llm deep-learning language-model pytorch quantization mixture-of-experts colab-notebook google-colab offloading

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。