attention-mechanism

Triển khai Enformer, mạng attention của Deepmind để dự đoán biểu hiện gen, bằng Pytorch.

Triển khai 💍 Ring Attention từ Liu và cộng sự tại Berkeley AI, bằng Pytorch

Triển khai chính thức bằng PyTorch cho bài báo "SAITS: Self-Attention-based Imputation for Time Series". Một mô hình mạng thần kinh học sâu nhanh và hiện đại (SOTA) để xử lý dữ liệu chuỗi thời gian bị thiếu (điền các giá trị NaN trong chuỗi thời gian đa biến bằng học máy). https://arxiv.org/abs/2202.08516

Implementation of Slot Attention from GoogleAI