SHI-Labs

[CVPR 2023] OneFormer : Un Transformer pour gouverner la segmentation d'image universelle

Neighborhood Attention Transformer (arxiv 2022 / CVPR 2023) et Dilated Neighborhood Attention Transformer (arxiv 2022).

Attention creuse multidimensionnelle rapide.

S'affranchir du paradigme Big Data avec les Compact Transformers, 2021 (Entraînez vos Vision Transformers en 30 minutes sur CIFAR-10 avec un seul GPU !)