bert

중국어 대규모 사전 훈련 말뭉치 100G 中文预训练语料

NLP에서 LLM까지의 알고리즘 풀스택 튜토리얼, 온라인 읽기 주소: https://datawhalechina.github.io/base-llm/

SPLADE: 희소 신경망 검색 (SIGIR21, SIGIR22)

최신 버전의 Rasa를 기반으로 구축된 중국어 대화 시스템.

TextGen: LLaMA, BLOOM, GPT2, BART, T5, SongNet 등을 포함한 텍스트 생성 모델 구현체. LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA 등의 모델 학습 및 예측을 지원하며 즉시 사용 가능합니다.

논문 "GECToR – Grammatical Error Correction: Tag, Not Rewrite" (BEA-20) 및 "Text Simplification by Tagging" (BEA-21)의 공식 구현체

BERT부터 GPT-4까지의 Transformer 모델과 Hugging Face부터 OpenAI까지의 환경. 파인튜닝, 학습 및 프롬프트 엔지니어링 예제. ChatGPT, GPT-3.5-turbo, GPT-4, DALL-E를 활용한 GPT-4 시작하기, 음성-텍스트 변환, 텍스트-음성 변환, DALL-E를 이용한 텍스트-이미지 생성, Google Cloud AI, HuggingGPT 등을 포함한 보너스 섹션 제공

🤖 엄선된 Transformer 모델과 구성 가능한 컴포넌트를 제공하는 PyTorch 라이브러리

포르투갈어 사전 학습된 BERT 모델

다양한 NLP 태스크를 위해 transformers를 파인튜닝하는 튜토리얼이 포함된 Github 저장소입니다.

PhoBERT: 베트남어 사전 훈련된 언어 모델 (EMNLP-2020 Findings)

다중 라벨 텍스트 분류, 다중 라벨 분류, 텍스트 분류, multi-label, classifier, text classification, BERT, seq2seq, attention, multi-label-classification

퍼지 문자열 매칭, 그룹화 및 평가.

KG-BERT: 지식 그래프 완성을 위한 BERT

PatrickStar는 더 크고 빠르며 친환경적인 NLP 사전 학습 모델을 구현하고 AI 대중화를 지원합니다.

JointBERT의 PyTorch 구현체: "의도 분류 및 슬롯 채우기를 위한 BERT"

최첨단 다국어 질의응답(QA) 연구 및 개발을 위한 주요 저장소입니다.

LLM-PowerHouse: 엄선된 튜토리얼, 모범 사례, 커스텀 학습 및 추론을 위한 즉시 사용 가능한 코드를 통해 LLM의 잠재력을 극대화합니다.

PyTorch로 구현한 간단한 OpenAI CLIP 모델.

중국어 자연어 처리를 위한 사전 학습 모델 재검토 (MacBERT)

Awesome-LLM-Eval: 주로 LLM 평가를 위한 도구, 데이터셋/벤치마크, 데모, 리더보드, 논문, 문서 및 모델의 선별 목록

인도네시아어를 위한 최초의 대규모 자연어 처리 벤치마크. 다양한 다운스트림 작업, 사전 학습된 IndoBERT 모델 및 시작 코드를 제공합니다 (AACL-IJCNLP 2020)

BERTweet: 영어 트윗을 위한 사전 학습된 언어 모델 (EMNLP-2020)

PyTorch 프레임워크 기반의 BERT 모델 및 관련 다운스트림 작업 구현

📖 한국어 NLU 벤치마크

RAG, 코드 및 도구 기반 AI 출력물을 위한 스팬 레벨 그라운딩 검증 도구

NLP 논문

Tensorflow를 사용하여 텍스트 전처리부터 Topic Models, BERT, GPT, LLM과 같은 최신 모델의 다운스트림 태스크까지 정리한 Deep Learning NLP 저장소입니다.

Natural Language Processing with Transformers 중역본, 가장 권위 있는 Transformers 튜토리얼

터키어 BERT/DistilBERT, ELECTRA, ConvBERT 및 T5 모델