transformers

21 lições, comece a construir com Generative AI

Implemente um LLM semelhante ao ChatGPT em PyTorch do zero, passo a passo

Ajuste fino eficiente e unificado de mais de 100 LLMs e VLMs (ACL 2024)

🧑‍🏫 Mais de 60 implementações/tutoriais de artigos de deep learning com anotações lado a lado 📝; incluindo transformers (original, xl, switch, feedback, vit, ...), otimizadores (adam, adabelief, sophia, ...), GANs (cyclegan, stylegan2, ...), 🎮 aprendizado por reforço (ppo, dqn), capsnet, destilação, ... 🧠

Aprenda. Construa. Entregue para os outros.

Implementação do Vision Transformer em PyTorch, uma maneira simples de alcançar SoTA em classificação de visão usando apenas um único codificador transformer

Coleção de artigos e projetos de código aberto do CVPR 2026

🤗 PEFT: Fine-Tuning eficiente em parâmetros de última geração.

Livro aberto de engenharia de aprendizado de máquina.

Plataforma de IA privada para agentes, assistentes e busca empresarial. Agent Builder integrado, pesquisa profunda, análise de documentos, suporte a múltiplos modelos e conectividade de API para agentes.

Pesquisa em andamento sobre o treinamento de modelos transformer em larga escala.

Machine Learning de ponta para a web. Execute 🤗 Transformers diretamente no seu navegador, sem necessidade de servidor!

RWKV (pronuncia-se RwaKuv) é uma RNN com excelente desempenho em LLM, que também pode ser treinada diretamente como um transformer GPT (paralelizável). Estamos na versão RWKV-7 "Goose". Ele combina o melhor de RNN e transformer: ótimo desempenho, tempo linear, espaço constante (sem kv-cache), treinamento rápido, comprimento de contexto infinito e sentence embedding gratuito.

Biblioteca de LLM e SLM poderosa e fácil de usar, com um excelente conjunto de modelos.

Framework de IA tudo-em-um para busca semântica, orquestração de LLM e fluxos de trabalho de modelos de linguagem

Um kit de ferramentas de fala baseado em PyTorch

Este repositório contém demonstrações que criei com a biblioteca Transformers da HuggingFace.

Modelos de segmentação semântica com mais de 500 backbones pré-treinados baseados em convolução e transformers.

Tokenizers rápidos e de última geração, otimizados para pesquisa e produção.

OpenVINO™ é um kit de ferramentas de código aberto para otimizar e implantar inferência de IA

Um framework de código aberto para detectar, editar, mascarar e anonimizar dados sensíveis (PII) em textos, imagens e dados estruturados. Suporta NLP, correspondência de padrões e pipelines personalizáveis.

Aplicativo de tradução em tempo real de código aberto para Android que roda localmente.

Framework de RL agentic fácil de usar, escalável e de alto desempenho baseado em Ray (PPO, DAPO, REINFORCE++, VLM, TIS, vLLM, Ray e Async RL)

Troque o GPT por qualquer LLM alterando apenas uma linha de código. O Xinference permite executar modelos de código aberto, de fala e multimodais na nuvem, localmente ou no seu laptop — tudo através de uma API de inferência unificada e pronta para produção.

Um método direto para treinar seu LLM, desde o download de dados até a geração de texto.

SANA: Síntese de imagem de alta resolução eficiente com Linear Diffusion Transformer.

[Prêmio de Melhor Artigo NeurIPS 2024][GPT supera diffusion🔥] [leis de escala em geração visual📈] Implementação oficial de "Visual Autoregressive Modeling: Scalable Image Generation via Next-Scale Prediction". Uma base de código ultra-simples, amigável e de última geração para geração de imagens autorregressivas!

BertViz: Visualize a atenção em modelos Transformer

Implementação de RLHF (Aprendizado por Reforço com Feedback Humano) sobre a arquitetura PaLM. Basicamente o ChatGPT, mas com PaLM.

Utilizando BERT e c-TF-IDF para criar tópicos facilmente interpretáveis.