lucidrains

Implementação do Vision Transformer em PyTorch, uma maneira simples de alcançar SoTA em classificação de visão usando apenas um único codificador transformer

Implementação em PyTorch do DALL-E 2, a rede neural de síntese de texto para imagem atualizada da OpenAI

Implementação de Denoising Diffusion Probabilistic Model em Pytorch.

Implementação do Imagen, a rede neural de texto para imagem do Google, em PyTorch

Implementação de RLHF (Aprendizado por Reforço com Feedback Humano) sobre a arquitetura PaLM. Basicamente o ChatGPT, mas com PaLM.

Um transformer full-attention conciso, porém completo, com um conjunto de recursos experimentais promissores de vários artigos.

Implementação/replicação do DALL-E, o Transformer de texto para imagem da OpenAI, em PyTorch

Quantização Vetorial (e Escalar) em Pytorch

A implementação funcional mais simples do Stylegan2, rede adversária generativa de última geração, em PyTorch. Permitindo que todos experimentem o desmembramento

Implementação em Pytorch do AudioLM, uma abordagem de modelagem de linguagem de última geração para geração de áudio do Google Research.

🦁 Lion, novo otimizador descoberto pelo Google Brain usando algoritmos genéticos que é supostamente melhor que o Adam(w), em Pytorch.

Implementação do Toolformer, modelos de linguagem que podem usar ferramentas, pela MetaAI

Implementação em Pytorch do Make-A-Video, o novo gerador de texto para vídeo SOTA da Meta AI

Implementação não oficial de Titans, memória SOTA para transformers, em PyTorch.

Implementação do GigaGAN, o novo SOTA GAN da Adobe. O ápice de quase uma década de pesquisa em GANs.

Implementação utilizável de aprendizado autossupervisionado "Bootstrap Your Own Latent", da Deepmind, em Pytorch

Implementação do Alphafold 3 do Google Deepmind em PyTorch.

Implementação em PyTorch da 'lightweight' GAN, proposta no ICLR 2021. Gerações de imagens em alta resolução que podem ser treinadas em um ou dois dias.

Implementação do SoundStorm, geração de áudio paralela eficiente do Google Deepmind, em Pytorch

Implementação do framework de treinamento proposto em Self-Rewarding Language Model, da MetaAI

Implementação em Pytorch de Transfusion, "Predict the Next Token and Diffuse Images with One Multi-Modal Model", da MetaAI

Implementação de Video Diffusion Models, o novo artigo de Jonathan Ho que estende DDPMs para Geração de Vídeo - em PyTorch

Implementação do Perceiver, General Perception with Iterative Attention, em Pytorch

Implementação do TabTransformer, rede de atenção para dados tabulares, em Pytorch

Uma solução baseada inteiramente em MLP para visão computacional, do Google AI

Implementação do Band Split Roformer, rede de atenção SOTA para separação de fontes musicais do ByteDance AI Labs

Implementação do Muse: Geração de Texto para Imagem via Transformers Generativos Mascarados, em Pytorch

Implementação do MeshGPT, geração de malhas SOTA usando Attention, em PyTorch

Transformer baseado em uma variante de atenção que possui complexidade linear em relação ao comprimento da sequência

Implementação de Rotary Embeddings, do artigo Roformer, em PyTorch.

Implementação do padrão de atenção esparsa proposto pela equipe do Deepseek em seu artigo "Native Sparse Attention"

Implementação do Phenaki Video em PyTorch, que usa MaskGIT para gerar vídeos guiados por texto de até 2 minutos de duração.

Implementação em Pytorch do Voicebox, a nova rede de Text-to-speech SOTA da MetaAI

Implementação do tokenizador MagViT2 em PyTorch

Uma maneira simples de acompanhar uma versão de Média Móvel Exponencial (EMA) do seu modelo do PyTorch

Implementação do MEGABYTE, Prevendo Sequências de Milhões de Bytes com Transformers Multi-escala, em Pytorch

Implementação do π₀, a arquitetura de modelo fundamental robótico proposta pela Physical Intelligence.

Implementação do Enformer, a rede de atenção da Deepmind para predição de expressão gênica, em PyTorch

Implementação em PyTorch de uma única camada do MMDiT, proposto no Stable Diffusion 3

Implementação de Ring Attention, de Liu et al. da Berkeley AI, em Pytorch.

Implementação de Classifier Free Guidance em Pytorch, com ênfase em condicionamento de texto e flexibilidade para incluir múltiplos modelos de embedding de texto.

Implementação não oficial do iTransformer - SOTA em previsão de séries temporais usando redes de atenção, desenvolvido pela Tsinghua e Ant Group.

Implementação de E(n)-Equivariant Graph Neural Networks em PyTorch

Implementação do E2-TTS, "Embarrassingly Easy Fully Non-Autoregressive Zero-Shot TTS", em Pytorch

Uma implementação de atenção em janela local para modelagem de linguagem

Implementation of Slot Attention from GoogleAI