qlora

Ajuste fino eficiente y unificado de más de 100 LLMs y VLMs (ACL 2024)

Inferencia de AirLLM 70B con una sola GPU de 4GB

Modelos de lenguaje grandes accesibles mediante cuantización de k-bits para PyTorch.

Firefly: Herramienta de entrenamiento de LLMs, compatible con el entrenamiento de Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llma2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom y otros modelos grandes

Ajusta LLMs desde un solo YAML. El streaming de capas entrena un modelo de 8B en una GPU de laptop de 4 GB.

Ajuste fino (finetuning) de chatglm 6b y alpaca

Kit de herramientas para el ajuste fino, ablación y pruebas unitarias de LLMs de código abierto.

Estima si un modelo de Hugging Face cabe y puede ajustarse en tu GPU local.

🐋MindChat: Conversaciones sobre la vida, enfrentando los desafíos con optimismo

Proyectos industriales de IA generativa de extremo a extremo en modelos LLM con despliegue. Awesome LLM Projects.

Ajuste fino (finetuning) fácil y eficiente para LLMs. (Compatible con LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon). Entrenamiento y despliegue eficiente de cuantización para grandes modelos.