roberta

"LoRA: Low-Rank Adaptation of Large Language Models" 구현체인 loralib 코드

중국어 BERT를 위한 Whole Word Masking 사전 학습(중국어 BERT-wwm 시리즈 모델)

BertViz: Transformer 모델의 어텐션 시각화

멋진 사전 학습된 중국어 NLP 모델, 고품질 중국어 사전 학습 모델 및 대형 모델, 멀티모달 모델, 대형 언어 모델 모음

중국어 언어 이해 평가 벤치마크: 데이터셋, 베이스라인, 사전 학습된 모델, 코퍼스 및 리더보드

PyTorch 기반의 오픈소스 사전 학습 모델 프레임워크 및 사전 학습 모델 모음

Rust 네이티브 즉시 사용 가능한 NLP 파이프라인 및 Transformer 기반 모델 (BERT, DistilBERT, GPT2,...)

RoBERTa 중국어 사전 훈련 모델: RoBERTa for Chinese

news-please - 문제없이 작동하는 통합 웹 크롤러 및 뉴스 정보 추출기

CPU와 GPU에서 transformer 추론(Bert, Albert, GPT2, Decoders 등)을 위한 빠르고 사용자 친화적인 런타임

PyTorch 기반 텐센트 사전 학습 프레임워크 및 사전 학습된 모델 모음

중국어 대규모 사전 훈련 말뭉치 100G 中文预训练语料

논문 "GECToR – Grammatical Error Correction: Tag, Not Rewrite" (BEA-20) 및 "Text Simplification by Tagging" (BEA-21)의 공식 구현체

🤖 엄선된 Transformer 모델과 구성 가능한 컴포넌트를 제공하는 PyTorch 라이브러리

PhoBERT: 베트남어 사전 훈련된 언어 모델 (EMNLP-2020 Findings)

BERTweet: 영어 트윗을 위한 사전 학습된 언어 모델 (EMNLP-2020)

📖 한국어 NLU 벤치마크

동적 텍스트 분류를 위한 유연하고 적응적인 분류 시스템

Happy Transformer를 사용하면 NLP Transformer 모델의 파인 튜닝과 추론을 쉽게 수행할 수 있습니다.