transformers

Utilisation de BERT et c-TF-IDF pour créer des sujets facilement interprétables.

Implémentation de transformers autorégressifs en parallélisme de modèle sur GPU, basée sur les bibliothèques Megatron et DeepSpeed.

SD.Next : interface Web tout-en-un pour la création, le sous-titrage et le traitement d'images et de vidéos générées par IA

Ce dépôt est une collection organisée de liens vers divers cours et ressources sur l'intelligence artificielle (IA).

Bibliothèque de traduction hors ligne open source écrite en Python

IA vocale embarquée pour Apple Silicon

Version chinoise de CLIP permettant la recherche intermodale et la génération de représentations en chinois

Un transformer full-attention concis mais complet, intégrant des fonctionnalités expérimentales prometteuses issues de divers articles de recherche.

⚡ Moteur d'inférence WebGPU en pur Rust — compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.

Chronos : modèles pré-entraînés pour la prévision de séries temporelles

Recettes robustes pour aligner les modèles de langage avec les préférences humaines et celles de l'IA.

Implémentation / réplication de DALL-E, le transformeur texte-vers-image d'OpenAI, en PyTorch.

OpenChat : faire progresser les modèles de langage open source avec des données imparfaites

Superduper : framework de bout en bout pour créer des applications et des agents IA personnalisés.

Environnement de recherche open source permettant aux chercheurs en IA d'entraîner, d'évaluer et de mettre à l'échelle des modèles de manière transparente, du matériel local aux clusters GPU.

Un logiciel d'apprentissage automatique pour l'extraction d'informations à partir de documents académiques

Une liste exhaustive d'articles sur les Vision Transformers et l'attention, incluant articles, codes et sites web associés.

Guide de construction de boîte blanche pour grands modèles : un Tiny-Universe entièrement conçu manuellement.

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

🌟 100+ schémas originaux sur les LLM / RL 📚, présentés par l'auteur de « Algorithmes de grands modèles » ! 💥

LightGlue : mise en correspondance de caractéristiques locales à la vitesse de la lumière (ICCV 2023)

Guide sur le Prompt Engineering, l'IA générative et les LLM par Learn Prompting | Rejoignez notre discord pour la plus grande communauté d'apprentissage du Prompt Engineering

Ingénierie de prompt | Versionnage de prompt | Utilisez GPT ou d'autres modèles basés sur des prompts pour obtenir des sorties structurées. Rejoignez notre Discord pour l'ingénierie de prompt, les LLM et les dernières recherches.

Tutoriels pour débuter avec PyTorch et TorchText pour l'analyse de sentiment.

Benchmark d'évaluation de la compréhension du langage chinois : jeux de données, lignes de base, modèles pré-entraînés, corpus et classement.

Transformers pour la recherche d'informations, la classification de texte, la NER, le QA, la modélisation et la génération de langage, T5, le multi-modal et l'IA conversationnelle.

⚡️SwanLab - un outil open-source au design moderne pour le suivi et la visualisation de l'entraînement d'IA. Prend en charge l'utilisation dans le cloud ou auto-hébergée. Intégré avec PyTorch, Transformers, verl, LLaMA Factory, ms-swift, Ultralytics, MMEngine, Keras, etc.

Le cours Hugging Face sur les Transformers

État de l'art du traitement du langage naturel

Fengshenbang-LM est un écosystème de modèles open source dirigé par le centre de recherche en informatique cognitive et en langage naturel de l'IDEA, servant d'infrastructure pour l'AIGC et l'intelligence cognitive en chinois.