Proprietário · ModelCloud

ModelCloud

Repositórios de código aberto acompanhados de ModelCloud, ordenados por estrelas.

1 repositório

#1
GPTQModel ↗@ModelCloudPython
Kit de ferramentas de quantização (compressão) de modelos LLM com suporte a aceleração de hardware para GPUs Nvidia, AMD, Intel e CPUs Intel/AMD/Apple via HF, vLLM e SGLang.
★ 1.248+0Variação de estrelas nos últimos 7 dias