attention-mechanism

Enformer 的 Pytorch 實作，這是 Deepmind 用於預測基因表現的注意力網路

在 Pytorch 中實作 Berkeley AI 的 Liu 等人提出的 💍 Ring Attention

論文「SAITS: Self-Attention-based Imputation for Time Series」的官方 PyTorch 實作。這是一個用於高效時間序列插補的快速且最先進（SOTA）深度學習神經網路模型（利用機器學習填補包含 NaN 缺失值的多變量不完整時間序列）。https://arxiv.org/abs/2202.08516

Implementation of Slot Attention from GoogleAI