EleutherAI

Un framework para la evaluación de pocos ejemplos (few-shot) de modelos de lenguaje.

Una implementación de transformadores autorregresivos en paralelo de modelos en GPU, basada en las bibliotecas Megatron y DeepSpeed.

El centro para el trabajo de EleutherAI sobre interpretabilidad y dinámica de aprendizaje

Deep learning para principiantes. Todos los detalles prácticos y utilidades útiles para trabajar con modelos reales.

Esparcificación de transformers mediante SAEs y transcodificadores