qlora

Tinh chỉnh hiệu quả thống nhất cho hơn 100 LLM & VLM (ACL 2024)

Suy luận AirLLM 70B với một GPU 4GB duy nhất

Các mô hình ngôn ngữ lớn có thể truy cập thông qua lượng tử hóa k-bit cho PyTorch.

Firefly: Công cụ huấn luyện LLM, hỗ trợ huấn luyện Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom và nhiều mô hình lớn khác

Tinh chỉnh LLMs chỉ từ một YAML. Layer streaming đào tạo mô hình 8B trên GPU laptop 4 GB.

Tinh chỉnh (finetuning) chatglm 6b và alpaca

Bộ công cụ để tinh chỉnh, cắt bỏ và kiểm thử đơn vị cho các LLM mã nguồn mở.

Ước tính liệu một mô hình Hugging Face có phù hợp và có thể tinh chỉnh trên GPU cục bộ của bạn hay không.

MindChat: Trò chuyện về cuộc sống, mỉm cười trước những thăng trầm

Các dự án công nghiệp AI tạo sinh từ đầu đến cuối trên các mô hình LLM với triển khai_Awesome LLM Projects.

Tinh chỉnh LLM dễ dàng và hiệu quả (Hỗ trợ LLama, LLama2, LLama3, Qwen, Baichuan, GLM, Falcon)