qlora

Fine-tuning efficace et unifié de plus de 100 LLM et VLM (ACL 2024).

Inférence AirLLM 70B avec un seul GPU de 4 Go

Grands modèles de langage accessibles via quantification k-bit pour PyTorch.

Firefly : outil d'entraînement pour grands modèles de langage, prenant en charge Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom, et bien d'autres.

Fine-tuning de LLM à partir d'un seul fichier YAML. Le streaming de couches permet d'entraîner un modèle 8B sur un GPU d'ordinateur portable de 4 Go.

Fine-tuning de chatglm 6b et fine-tuning d'alpaca.

Boîte à outils pour le réglage fin, l'ablation et les tests unitaires de LLM open source.

Estimez si un modèle Hugging Face peut être chargé et affiné sur votre GPU local.

🐋MindChat : Discuter de la vie, faire face aux épreuves avec le sourire

Projets industriels d'IA générative de bout en bout sur les modèles LLM avec déploiement_Awesome LLM Projects

Fine-tuning simple et efficace de LLM (prise en charge de LLaMA, LLaMA2, LLaMA3, Qwen, Baichuan, GLM, Falcon). Entraînement et déploiement de quantification efficace pour grands modèles.