transformer

Uma estrutura multiagente baseada em LLM para motores de busca na web (semelhante ao Perplexity.ai Pro e SearchGPT)

Um framework para inferência eficiente de modelos com modelos de omnimodalidade

Repositório do GitHub para o artigo "Informer" aceito na AAAI 2021.

Otimização relacionada a Transformer, incluindo BERT e GPT.

Deep Learning para séries temporais, Machine Learning, Python, Pytorch, fastai | Biblioteca de Deep Learning de última geração para séries temporais e sequências em Pytorch / fastai.

Quantização, kernels, runtime e motor de inferência para dispositivos móveis, wearables, casas inteligentes e robôs.

Tutoriais sobre a implementação de alguns modelos sequence-to-sequence (seq2seq) com PyTorch e TorchText.

SwinIR: Restauração de imagem usando Swin Transformer (repositório oficial)

Um roteador programável de Mistura de Modelos (Mixture-of-Models) para inferência heterogênea de LLM

Kit de ferramentas de reconhecimento de fala de ponta a ponta, focado e pronto para produção.

Uma lista de artigos extremamente abrangente sobre Vision Transformer/Attention, incluindo artigos, códigos e sites relacionados

Um framework de código aberto para Prompt-Learning.

Um guia essencial de introdução à IA, acessível para estudantes e engenheiros. Abrange desde redes neurais até grandes modelos, princípios fundamentais e implementação prática, desmistificando o funcionamento da IA.

Transformer: Implementação em PyTorch de "Attention Is All You Need".

Plataforma de recursos para entrevistas de engenheiros de algoritmos em AIGC/LLM/AI Agent. Abrange AIGC, LLMs, AI Agents, inteligência incorporada, deep learning tradicional, visão computacional, processamento de linguagem natural, direção autônoma, aprendizado de máquina, aprendizado por reforço, big data, modelos de mundo, metaverso, AGI e outros conhecimentos essenciais da indústria de IA.

Backbones de IA eficientes, incluindo GhostNet, TNT e MLP, desenvolvidos pelo Huawei Noah's Ark Lab.

Algoritmos de previsão neural escaláveis e fáceis de usar.

Curso introdutório, avançado e especializado de Deep Learning, casos acadêmicos, casos de prática industrial, enciclopédia de conhecimento de Deep Learning e banco de questões de entrevistas. O curso, o caso e o conhecimento de Deep Learning e IA

Implementação oficial em PyTorch do SegFormer

Coleção de artigos sobre Transformers com visão. Awesome Transformer em Visão Computacional (CV)

Towhee é um framework dedicado a tornar os pipelines de processamento de dados neurais simples e rápidos.

Repositório para ilustrar o uso de transformers em chinês.

Este repositório contém uma lista de leitura de artigos sobre previsão de séries temporais (TSF) e previsão espaço-temporal (STF). Esses artigos são categorizados principalmente de acordo com o tipo de modelo.

Arquitetura de base para (M)LLMs

Fábrica de fatores automatizada de código aberto baseada em aprendizado por reforço profundo.

Pipelines de PLN nativos em Rust prontos para uso e modelos baseados em transformer (BERT, DistilBERT, GPT2,...)

[AutoArk] GPA (General Purpose Audio) pode realizar ASR, TTS e conversão de voz com um único modelo compacto!

Uma lista curada profissionalmente de recursos incríveis (artigos, código, dados, etc.) sobre transformers em séries temporais.

Contador de FLOPS para redes neurais no framework PyTorch

Quantização nativa em PyTorch para treinamento e inferência.