int4
Repositorios de código abierto monitorizados etiquetados con int4, ordenados por estrellas.
Temas relacionados
Temas que aparecen con frecuencia junto a int4 en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con int4.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
Cuantización de LLM de pocos bits SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) y dispersión; técnicas líderes de compresión de modelos en PyTorch, TensorFlow y ONNX Runtime.
★ 2706+5Variación de estrellas de los últimos 7 días - #2
Un algoritmo de cuantización SOTA para inferencia de LLM de bajo bit y alta precisión, optimizado para CPU/XPU/CUDA, con soporte para múltiples tipos de datos y compatibilidad total con vLLM, SGLang y Transformers.
★ 1597+15Variación de estrellas de los últimos 7 días - #3
Optimización de multiplicación de matrices en orden de fila mayor (row-major)
★ 753+2Variación de estrellas de los últimos 7 días
