qlora

100개 이상의 LLM 및 VLM을 위한 통합 효율적 미세 조정(ACL 2024)

단일 4GB GPU로 AirLLM 70B 추론 수행

PyTorch를 위한 k-bit 양자화를 통한 접근 가능한 대형 언어 모델

Firefly: Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom 등 대형 모델 학습을 지원하는 대형 모델 학습 도구

단일 YAML로 LLM 파인튜닝. 레이어 스트리밍을 통해 4GB 노트북 GPU에서 8B 모델 학습 가능

chatglm 6b 파인튜닝 및 alpaca 파인튜닝

오픈소스 LLM의 미세 조정(fine-tuning), 제거 연구(ablating) 및 단위 테스트를 위한 툴킷.

Hugging Face 모델이 로컬 GPU에 적합하고 파인튜닝이 가능한지 추정합니다.

🐋MindChat(漫谈): 인생의 길을 나누고, 시련 속에서도 웃어넘기다

LLM 모델을 활용한 엔드 투 엔드 생성형 AI 산업 프로젝트 및 배포 가이드

LLM의 쉽고 효율적인 미세 조정 (Llama, Llama2, Llama3, Qwen, Baichuan, GLM, Falcon 지원). 대형 모델의 고효율 양자화 훈련 및 배포