bert

Corpus de preentrenamiento a gran escala para chino de 100G

Tutorial completo de algoritmos desde NLP hasta LLM, lectura en línea: https://datawhalechina.github.io/base-llm/

SPLADE: búsqueda neuronal dispersa (SIGIR21, SIGIR22)

Construcción de un sistema de diálogo en chino basado en la versión más reciente de rasa

TextGen: Implementación de modelos de generación de texto, que incluye LLaMA, BLOOM, GPT2, BART, T5, SongNet y más.

Implementación oficial de los artículos "GECToR – Grammatical Error Correction: Tag, Not Rewrite" (BEA-20) y "Text Simplification by Tagging" (BEA-21).

Modelos Transformer desde BERT hasta GPT-4, entornos desde Hugging Face hasta OpenAI. Ejemplos de ajuste fino, entrenamiento e ingeniería de prompts. Incluye secciones sobre ChatGPT, GPT-3.5-turbo, GPT-4, DALL-E, conversión de voz a texto, texto a voz, generación de imágenes con DALL-E, Google Cloud AI, HuggingGPT y más

Una biblioteca de PyTorch con modelos Transformer seleccionados y sus componentes componibles

Modelos BERT preentrenados en portugués.

Repositorio de GitHub con tutoriales para ajustar modelos transformers en diversas tareas de NLP.

PhoBERT: Modelos de lenguaje preentrenados para vietnamita (EMNLP-2020 Findings).

Clasificación de texto multietiqueta, clasificación multietiqueta, clasificación de texto, multi-label, classifier, text classification, BERT, seq2seq, attention, multi-label-classification

Coincidencia, agrupación y evaluación de cadenas difusas.

KG-BERT: BERT para la finalización de grafos de conocimiento

PatrickStar permite modelos preentrenados para PNL más grandes, rápidos y eficientes, democratizando la IA para todos.

Implementación en Pytorch de JointBERT: "BERT para clasificación conjunta de intenciones y llenado de ranuras"

El repositorio principal para la investigación y el desarrollo de sistemas de respuesta a preguntas multilingües de última generación.

LLM-PowerHouse: Libere el potencial de los LLM a través de tutoriales seleccionados, mejores prácticas y código listo para usar para entrenamiento e inferencia personalizados.

Implementación sencilla del modelo CLIP de OpenAI en PyTorch.

Revisión de modelos preentrenados para el procesamiento de lenguaje natural en chino (MacBERT).

Awesome-LLM-Eval: una lista curada de herramientas, conjuntos de datos/benchmarks, demos, tablas de clasificación, artículos, documentación y modelos, enfocada principalmente en la evaluación de LLMs.

El primer benchmark de procesamiento de lenguaje natural a gran escala para el idioma indonesio. Proporcionamos múltiples tareas posteriores, modelos IndoBERT preentrenados y código de inicio (AACL-IJCNLP 2020)

BERTweet: Un modelo de lenguaje preentrenado para tweets en inglés (EMNLP-2020)

Verificación de fundamentación a nivel de fragmento para RAG, código y salidas de IA fundamentadas en herramientas.

📖 Benchmark de NLU en coreano

Implementación del modelo BERT y sus tareas relacionadas basada en el framework PyTorch. @跟我学机器学习

Artículos de PNL

Repositorio de Deep Learning NLP que utiliza TensorFlow para cubrir desde el preprocesamiento de texto hasta tareas posteriores con modelos modernos como Topic Models, BERT, GPT y LLM.

Traducción al chino de Natural Language Processing with Transformers, el tutorial más autorizado sobre Transformers

Modelos BERT/DistilBERT, ELECTRA, ConvBERT y T5 para turco