roberta

Code für loralib, eine Implementierung von „LoRA: Low-Rank Adaptation of Large Language Models“

Pre-Training with Whole Word Masking for Chinese BERT (Chinesische BERT-wwm-Modellreihe)

BertViz: Visualisierung der Attention in Transformer-Modellen

Awesome Pretrained Chinese NLP Models – Sammlung hochwertiger chinesischer vortrainierter Modelle, großer Modelle, multimodaler Modelle und großer Sprachmodelle

Chinesischer Sprachverständnis-Evaluierungsbenchmark: Datensätze, Baselines, vortrainierte Modelle, Korpora und Bestenliste

Open-Source-Framework für Vortrainierungsmodelle in PyTorch und Pre-trained Model Zoo

In Rust geschriebene, einsatzbereite NLP-Pipelines und Transformer-basierte Modelle (BERT, DistilBERT, GPT2,...)

Vertrainiertes RoBERTa-Modell für Chinesisch: RoBERTa for Chinese

news-please – ein integrierter Web-Crawler und Informationsextraktor für Nachrichten, der einfach funktioniert

Eine schnelle und benutzerfreundliche Laufzeitumgebung für Transformer-Inferenz (Bert, Albert, GPT2, Decoders usw.) auf CPU und GPU.

Tencent Pre-Training-Framework in PyTorch & Pre-trained Model Zoo

Groß angelegtes Vortrainingskorpus für chinesische 100G

Offizielle Implementierung der Paper „GECToR – Grammatical Error Correction: Tag, Not Rewrite“ (BEA-20) und „Text Simplification by Tagging“ (BEA-21)

🤖 Eine PyTorch-Bibliothek mit kuratierten Transformer-Modellen und deren kombinierbaren Komponenten

PhoBERT: Vortrainierte Sprachmodelle für Vietnamesisch (EMNLP-2020 Findings)

BERTweet: Ein vortrainiertes Sprachmodell für englische Tweets (EMNLP-2020)

📖 Korean NLU Benchmark

Ein flexibles, adaptives Klassifizierungssystem für dynamische Textklassifizierung

Happy Transformer vereinfacht das Fine-Tuning und die Inferenz von NLP-Transformer-Modellen.