fp4
Repositorios de código abierto monitorizados etiquetados con fp4, ordenados por estrellas.
Temas relacionados
Temas que aparecen con frecuencia junto a fp4 en un mismo repositorio.
Emergentes recientes
Repositorios creados en los últimos 90 días, etiquetados con fp4.
No hay repositorios nuevos con este tema en los últimos 90 días.
- #1
Una biblioteca para acelerar modelos Transformer en GPUs de NVIDIA, incluyendo el uso de precisión de punto flotante de 8 y 4 bits (FP8 y FP4) en GPUs Hopper, Ada y Blackwell, para ofrecer un mejor rendimiento con menor uso de memoria tanto en entrenamiento como en inferencia.
★ 3518+9Variación de estrellas de los últimos 7 días - #2
Cuantización de LLM de pocos bits SOTA (INT8/FP8/MXFP8/INT4/MXFP4/NVFP4) y dispersión; técnicas líderes de compresión de modelos en PyTorch, TensorFlow y ONNX Runtime.
★ 2706+0Variación de estrellas de los últimos 7 días - #3
Kit de herramientas de compresión de modelos diseñado para mejorar la usabilidad, la exhaustividad y la eficiencia.
★ 1619+58Variación de estrellas de los últimos 7 días
