bert

Korpus Pra-pelatihan skala besar untuk bahasa Mandarin 100G

Tutorial tumpukan penuh algoritma dari NLP ke LLM, alamat baca daring: https://datawhalechina.github.io/base-llm/

SPLADE: pencarian neural jarang (SIGIR21, SIGIR22)

membangun sistem dialog bahasa Mandarin berdasarkan versi terbaru rasa

TextGen: Implementasi model Text Generation, termasuk LLaMA, BLOOM, GPT2, BART, T5, SongNet, dan lainnya.

Implementasi resmi dari makalah "GECToR – Grammatical Error Correction: Tag, Not Rewrite" (BEA-20) dan "Text Simplification by Tagging" (BEA-21).

Model transformer dari BERT hingga GPT-4, lingkungan dari Hugging Face hingga OpenAI. Contoh fine-tuning, pelatihan, dan prompt engineering. Bagian bonus mencakup ChatGPT, GPT-3.5-turbo, GPT-4, dan DALL-E termasuk memulai GPT-4, speech-to-text, text-to-speech, pembuatan gambar dengan DALL-E, Google Cloud AI, HuggingGPT, dan banyak lagi.

🤖 Pustaka PyTorch yang berisi model Transformer pilihan dan komponen yang dapat disusun

Model BERT yang telah dilatih sebelumnya untuk bahasa Portugis

Repositori Github berisi tutorial untuk fine-tuning transformer untuk berbagai tugas NLP

PhoBERT: Model bahasa pratertarik untuk bahasa Vietnam (Temuan EMNLP-2020)

Klasifikasi teks multi-label, klasifikasi multi-label, klasifikasi teks, multi-label, pengklasifikasi, klasifikasi teks, BERT, seq2seq, attention, multi-label-classification

Pencocokan, pengelompokan, dan evaluasi string fuzzy.

KG-BERT: BERT untuk Penyelesaian Knowledge Graph

PatrickStar memungkinkan Model Pra-latih untuk NLP yang Lebih Besar, Lebih Cepat, Lebih Ramah Lingkungan dan mendemokratisasi AI untuk semua orang.

Implementasi Pytorch dari JointBERT: "BERT untuk Klasifikasi Niat dan Pengisian Slot Bersama"

Repositori utama untuk riset dan pengembangan Multilingual Question Answering yang canggih.

LLM-PowerHouse: Maksimalkan potensi LLM melalui tutorial terkurasi, praktik terbaik, dan kode siap pakai untuk pelatihan serta inferensi kustom.

Implementasi sederhana dari model OpenAI CLIP di PyTorch.

Meninjau Kembali Model Pra-latih untuk Pemrosesan Bahasa Alami Bahasa Mandarin (MacBERT)

Awesome-LLM-Eval: Daftar kurasi alat, dataset/benchmark, demo, papan peringkat, makalah, dokumen, dan model, terutama untuk evaluasi LLM.

Benchmark pemrosesan bahasa alami berskala besar pertama untuk Bahasa Indonesia. Kami menyediakan berbagai tugas hilir, model IndoBERT pra-latih, dan kode awal! (AACL-IJCNLP 2020)

BERTweet: Model bahasa pra-latih untuk Tweet Bahasa Inggris (EMNLP-2020)

Verifikasi grounding tingkat span untuk output AI berbasis RAG, kode, dan alat.

📖 Tolok ukur NLU bahasa Korea

Implementasi model BERT dan tugas downstream terkait berbasis framework PyTorch. @跟我学机器学习

Makalah NLP

Repository NLP Deep Learning yang merangkum tugas downstream dari pra-pemrosesan teks hingga model terbaru seperti Topic Models, BERT, GPT, dan LLM menggunakan TensorFlow.

Terjemahan bahasa Mandarin dari Natural Language Processing with Transformers, tutorial Transformers paling otoritatif

Model BERT/DistilBERT, ELECTRA, ConvBERT, dan T5 bahasa Turki