dvmazur/mixtral-offloading

Ejecuta modelos Mixtral-8x7B en Colab o en ordenadores de escritorio de consumo

↗ Abrir en GitHub

Estrellas

2334

Bifurcaciones

225

Lenguaje

Python

Licencia

MIT

Último push

hace 2 años

Python llm deep-learning language-model pytorch quantization mixture-of-experts colab-notebook google-colab offloading

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.