qlora

Ajuste fino eficiente e unificado de mais de 100 LLMs e VLMs (ACL 2024)

Inferência do AirLLM 70B com uma única GPU de 4GB

Modelos de linguagem grandes acessíveis via quantização de k-bit para PyTorch.

Firefly: Ferramenta de treinamento de grandes modelos, com suporte para Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom e outros.

Ajuste fino de LLMs a partir de um único YAML. O streaming de camadas treina um modelo de 8B em uma GPU de laptop de 4 GB.

Fine-tuning do chatglm 6b e fine-tuning do alpaca

Toolkit para fine-tuning, ablação e testes unitários de LLMs de código aberto.

Estime se um modelo Hugging Face cabe e pode ser ajustado (fine-tuned) na sua GPU local.

🐋MindChat (漫谈): Conversas sobre a jornada da vida, sorrindo diante das dificuldades

Projetos da Indústria de IA Generativa de Ponta a Ponta em Modelos LLM com Implantação_Awesome LLM Projects

Fine-tuning fácil e eficiente de LLMs. (Suporta LLaMA, LLaMA2, LLaMA3, Qwen, Baichuan, GLM, Falcon). Treinamento e implantação eficientes de quantização para grandes modelos.