bert

Hướng dẫn Học sâu của Lý Hoành Nghị (được thầy Lý Hoành Nghị khuyến nghị 👍, Sách Táo 🍎), địa chỉ tải PDF: https://github.com/datawhalechina/leedl-tutorial/releases

Hướng dẫn Xử lý Ngôn ngữ Tự nhiên dành cho các nhà nghiên cứu Deep Learning

Thư viện LLM và SLM mạnh mẽ, dễ sử dụng đi kèm kho mô hình tuyệt vời.

🏄 Nhúng, suy luận và xếp hạng có khả năng mở rộng cho hình ảnh và câu văn với CLIP

Kho lưu trữ này chứa các bản demo tôi đã tạo bằng thư viện Transformers của HuggingFace.

💥 Các Tokenizer tiên tiến, tốc độ cao được tối ưu hóa cho Nghiên cứu và Sản xuất

Tiền huấn luyện với Whole Word Masking cho các mô hình BERT tiếng Trung (dòng BERT-wwm)

Corpus tiếng Trung quy mô lớn dành cho NLP (Large Scale Chinese Corpus for NLP)

Trục vits2 với multilingual-bert

BertViz: Trực quan hóa cơ chế Attention trong các mô hình Transformer

Tận dụng BERT và c-TF-IDF để tạo ra các chủ đề dễ diễn giải.

Tối ưu hóa liên quan đến Transformer, bao gồm BERT, GPT

Bộ sưu tập mô hình NLP tiếng Trung được huấn luyện trước chất lượng cao, mô hình lớn, mô hình đa phương thức và mô hình ngôn ngữ lớn

Hướng dẫn bắt đầu với PyTorch và TorchText để phân tích cảm sentiment.

Tiêu chuẩn đánh giá hiểu ngôn ngữ tiếng Trung (Chinese Language Understanding Evaluation Benchmark): bộ dữ liệu, baseline, mô hình tiền huấn luyện, ngữ liệu và bảng xếp hạng

Trích xuất từ khóa tối giản với BERT

Xử lý Ngôn ngữ Tự nhiên Tiên tiến nhất (State of the Art)

Giải pháp NLP tiếng Trung (mô hình ngôn ngữ lớn, dữ liệu, mô hình, huấn luyện, suy luận)

🧠💬 Các bài viết tôi đã viết về học máy, được lưu trữ từ MachineCurve.com.

Khóa học nhập môn, nâng cao, chuyên sâu về học sâu, các trường hợp nghiên cứu học thuật, thực tiễn công nghiệp, bách khoa toàn thư kiến thức học sâu và ngân hàng câu hỏi phỏng vấn.

Nhanh chóng làm quen với lý thuyết AI và thực hành ứng dụng: kiến thức cơ bản, Transformer, NLP, ML, DL, các cuộc thi. Bao gồm nhiều chú thích và bộ dữ liệu, nỗ lực giúp mọi người đều có thể hiểu và tái hiện được.

chúng tôi muốn tạo một kho lưu trữ để minh họa cách sử dụng các mô hình transformers bằng tiếng Trung

Framework mô hình huấn luyện trước mã nguồn mở trong PyTorch & Pre-trained Model Zoo

Top2Vec học các vector chủ đề, tài liệu và từ ngữ được nhúng chung.

Các pipeline NLP gốc bằng Rust và mô hình dựa trên transformer (BERT, DistilBERT, GPT2,...)

Các mô hình cơ sở Chinese-LLaMA 1&2, Chinese-Falcon; mô hình đối thoại tiếng Trung ChatFlow; mô hình OpenLLaMA tiếng Trung; tập dữ liệu tiền huấn luyện/tinh chỉnh chỉ dẫn NLP.

Một thư viện thống nhất dành cho Transfer Learning dạng mô-đun và tối ưu hóa tham số

Mô hình tiền huấn luyện RoBERTa tiếng Trung: RoBERTa for Chinese

Các hướng dẫn Jupyter Notebook về giải quyết vấn đề thực tế bằng Machine Learning và Deep Learning sử dụng PyTorch. Các chủ đề: Nhận diện khuôn mặt với Detectron 2, Phát hiện bất thường chuỗi thời gian với LSTM Autoencoders, Phát hiện đối tượng với YOLO v5, Xây dựng mạng neural đầu tiên, Dự báo chuỗi thời gian cho ca nhiễm Coronavirus hàng ngày, Phân tích cảm sentiment với BERT

Bộ công cụ học máy, xử lý ngôn ngữ tự nhiên và tạo văn bản trong TensorFlow. Đây là một phần của dự án CASL: http://casl-project.ai/