dvmazur/mixtral-offloading

Execute modelos Mixtral-8x7B no Colab ou em desktops domésticos.

↗ Abrir no GitHub

Estrelas

2.334

Bifurcações

225

Linguagem

Python

Licença

MIT

Último push

há 2 anos

Python llm deep-learning language-model pytorch quantization mixture-of-experts colab-notebook google-colab offloading

Ainda não há intel relacionado

Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.