bert

Kashgari est un framework de transfert d'apprentissage NLP de niveau production basé sur tf.keras pour l'étiquetage et la classification de texte, incluant Word2Vec, BERT et GPT2 Language Embedding.

Un benchmark hétérogène pour la recherche d'information, permettant d'évaluer facilement vos modèles sur plus de 15 jeux de données IR divers.

Réseaux de neurones profonds multitâches pour la compréhension du langage naturel

EasyNLP : Une boîte à outils NLP complète et facile à utiliser

Collection d'encodeurs-décodeurs d'ALIbaba provenant du laboratoire MinD (Machine IntelligeNce of Damo).

[CVPR 2021] Implémentation PyTorch officielle pour l'interprétabilité des Transformers au-delà de la visualisation de l'attention, une nouvelle méthode pour visualiser les classifications par les réseaux basés sur les Transformers.

Bibliothèque très simple pour les modèles de traitement du langage naturel (NLP) basés sur BERT

Tutoriel de démarrage rapide pour la bibliothèque Transformers

Bibliothèque autonome d'apprentissage automatique et de traitement du langage naturel en Go.

Classification de textes chinois (longs, courts, multi-étiquettes) et similarité de phrases avec Keras NLP, incluant des classes de base pour les embeddings et les réseaux (graph), FastText, TextCNN, CharCNN, TextRNN, RCNN, DCNN, DPCNN, VDCNN, CRNN, Bert, Xlnet, Albert, Attention, DeepMoji, HAN, CapsuleNet, Transformer-encode, Seq2seq, SWEM, LEAM et TextGCN.

Recherche et applications en traitement du langage naturel, graphes de connaissances, systèmes de dialogue et grands modèles.

Modernisation de BERT via des changements d'architecture et une mise à l'échelle

PaddleSlim est une bibliothèque open source pour la compression de modèles profonds et la recherche d'architecture.

Un runtime rapide et convivial pour l'inférence de transformers (Bert, Albert, GPT2, Decoders, etc.) sur CPU et GPU.

Modèle ELECTRA pré-entraîné pour le chinois.

Modèle BERT coréen pré-entraîné avec casse (KoBERT).

Utilisez des transformers pré-entraînés comme BERT, XLNet et GPT-2 dans spaCy.

[ICLR'23 Spotlight🔥] Le premier pré-entraînement réussi de type BERT/MAE sur un réseau convolutionnel ; implémentation PyTorch de "Designing BERT for Convolutional Networks: Sparse and Hierarchical Masked Modeling"

N2O : serveur d'applications WebSocket distribué ISO 20922.

Articles de recherche en traitement du langage naturel (avec notes de lecture), implémentations de modèles et traitement de données (code disponible en TensorFlow et PyTorch)

Une implémentation élégante de transformers en PyTorch

Modèles entraînés et code pour prédire les commentaires toxiques sur les 3 défis Jigsaw Toxic Comment. Construit avec ⚡ Pytorch Lightning et 🤗 Transformers. Pour accéder à notre API, veuillez nous contacter à contact@unitary.ai.

Transformers4Rec est une bibliothèque flexible et efficace pour la recommandation séquentielle et basée sur les sessions, compatible avec PyTorch.

Package Python pour la modélisation thématique contextualisée. Les CTM combinent des embeddings contextualisés (ex: BERT) avec des modèles thématiques pour obtenir des sujets cohérents. Publié à l'EACL et ACL 2021 (Bianchi et al.).

IA multimodale de poche pour la compréhension et la génération de contenu textuel, image et bientôt vidéo, jusqu'à 5 fois plus rapide qu'OpenAI CLIP et LLaVA

TTS basé sur les meilleures pratiques de BERT et VITS avec certaines fonctionnalités de Natural Speech de Microsoft ; prend en charge le streaming ONNX.

Framework de compression de réseaux de neurones pour une inférence OpenVINO™ optimisée.

💁 Une collection impressionnante de modèles Transformers pour le traitement du langage naturel, incluant des articles, vidéos, blogs, dépôts officiels et notebooks Colab. 🛫☑️

Une liste organisée de ressources en NLP axée sur les réseaux Transformer, les mécanismes d'attention, GPT, BERT, ChatGPT, les LLM et l'apprentissage par transfert.

Framework de pré-entraînement Tencent en PyTorch et zoo de modèles pré-entraînés