transformer

Safe RLHF: Alinhamento de valor restrito via Aprendizado por Reforço Seguro a partir de Feedback Humano

PaddleSlim é uma biblioteca de código aberto para compressão de modelos profundos e busca de arquitetura.

Uma base de código unificada para aprendizado semissupervisionado (NeurIPS'22)

Modelo pequeno, lógica grande: otimização orientada pela diversidade desperta a capacidade de raciocínio de grandes modelos no VibeThinker-1.5B.

Um runtime rápido e amigável para inferência de transformers (Bert, Albert, GPT2, Decoders, etc) em CPU e GPU.

[ICLR'23 Spotlight & ECCV'24 & IJCV'24] MapTR: Modelagem e aprendizado estruturados para construção online de mapas HD vetorizados

"Retinexformer: One-stage Retinex-based Transformer for Low-light Image Enhancement" (ICCV 2023 Top-10 Citado 🏆) & (NTIRE 2024 Vice-campeão 🏆) & (NTIRE 2025 Vencedor 🏆) & (NTIRE 2026 Vencedor 🏆)

Uma lista de artigos sobre trabalhos recentes de visão computacional baseados em Transformer.

Um conjunto de notebooks e outros arquivos que podem ajudá-lo a aprender IA do zero.

Este repositório é a implementação oficial de Disentangling Writer and Character Styles for Handwriting Generation (CVPR 2023)

SDK de detecção e reconhecimento de texto em chinês offline e gratuito

[TPAMI'23] Unificando Estimativa de Fluxo, Estéreo e Profundidade

Parallax é um framework de serviço de modelos distribuídos que permite criar seu próprio cluster de IA em qualquer lugar.

PoolFormer: MetaFormer é realmente o que você precisa para visão computacional (CVPR 2022 Oral).

Pesquisa sobre a arquitetura DeepSeek Engram baseada nas séries Qwen-3 e Stable Diffusion.

Implementação de Attention is all you need

Transformers4Rec é uma biblioteca flexível e eficiente para recomendação sequencial e baseada em sessão, compatível com PyTorch.

Curso sistemático de construção de Large Language Models | Abrange engenharia de dados de pré-treinamento, Tokenizer, Transformer, MoE, programação GPU (CUDA/Triton), treinamento distribuído, Scaling Laws, otimização de inferência e alinhamento (SFT/RLHF/GRPO) | 6 exercícios progressivos orientados a código para estabelecer uma visão full-stack de LLMs

Um pacote Python para executar modelagem de tópicos contextualizados. Os CTMs combinam embeddings contextualizados (por exemplo, BERT) com modelos de tópicos para obter tópicos coerentes. Publicado na EACL e ACL 2021 (Bianchi et al.).

IA multimodal de bolso para compreensão e geração de conteúdo em textos multilíngues, imagens e 🔜 vídeo, até 5x mais rápida que o OpenAI CLIP e LLaVA 🖼️ & 🖋️

Reunindo projetos de código aberto de inteligência artificial (IA) de destaque de todo o mundo.

Framework sequence-to-sequence baseado em PyTorch com foco em Tradução Automática Neural

💁 Tesouro incrível de modelos Transformers para processamento de linguagem natural, contendo artigos, vídeos, blogs, repositório oficial e notebooks do Colab. 🛫☑️

Uma biblioteca de Deep Learning para classificação de tarefas (sinais) de EEG, baseada em TensorFlow.

[NeurIPS 2020] Código oficial para o artigo "DeepSVG: A Hierarchical Generative Network for Vector Graphics Animation". Inclui uma biblioteca PyTorch para aprendizado profundo com dados SVG.

Uma lista com curadoria de recursos de PNL focados em redes Transformer, mecanismo de atenção, GPT, BERT, ChatGPT, LLMs e aprendizado por transferência.

OpenSTL: Um benchmark abrangente de aprendizado preditivo espaço-temporal

Geração de perguntas neurais usando transformers

[Não oficial] Implementação em PyTorch de "Conformer: Convolution-augmented Transformer for Speech Recognition" (INTERSPEECH 2020)

SwissArmyTransformer é uma biblioteca flexível e poderosa para desenvolver suas próprias variantes de Transformer.