attention-mechanism

Implementação do Enformer, a rede de atenção da Deepmind para predição de expressão gênica, em PyTorch

Implementação de Ring Attention, de Liu et al. da Berkeley AI, em Pytorch.

A implementação oficial em PyTorch do artigo "SAITS: Self-Attention-based Imputation for Time Series". Um modelo de rede neural de aprendizado profundo rápido e de última geração (SOTA) para imputação eficiente de séries temporais (imputar séries temporais multivariadas incompletas contendo dados/valores ausentes NaN com machine learning). https://arxiv.org/abs/2202.08516

Implementation of Slot Attention from GoogleAI