turboderp-org/exllamav2
@turboderp-orgUna librería de inferencia rápida para ejecutar LLM de forma local en GPU de consumo modernas
Estrellas
4614
Bifurcaciones
341
Lenguaje
Python
Licencia
MIT
Último push
hace 6 meses
Intel relacionado (0)
Aún no hay intel relacionado
Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.