lora

100개 이상의 LLM 및 VLM을 위한 통합 효율적 미세 조정(ACL 2024)

🧑‍🏫 노트가 나란히 제공되는 딜 러닝 논문 구현/튜토리얼 60개 이상 📝; 트랜스포머(original, xl, switch, feedback, vit 등), 옵티마이저(adam, adabelief, sophia 등), GAN(cyclegan, stylegan2 등), 🎮 강화학습(ppo, dqn), capsnet, 증류 등 🧠

단일 4GB GPU로 AirLLM 70B 추론 수행

오픈소스 대규모 언어 모델 활용 가이드: Linux 환경을 기반으로 국내외 오픈소스 LLM 및 다중 모달 LLM(MLLM)을 빠르게 미세조정(전체 파라미터/LoRA) 및 배포할 수 있도록 제공하는 튜토리얼

🤗 PEFT: 최첨단 매개변수 효율적 미세 조정(Parameter-Efficient Fine-Tuning).

중국어 LLaMA 및 Alpaca 대규모 언어 모델 + 로컬 CPU/GPU 학습 및 배포 (Chinese LLaMA & Alpaca LLMs)

stable diffusion webui colab

PEFT 또는 풀 파라미터를 사용하여 600개 이상의 LLM(Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) 및 300개 이상의 MLLM(Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...)을 학습/미세조정(CPT/SFT/DPO/GRPO)하는 툴킷 (AAAI 2025).

"LoRA: Low-Rank Adaptation of Large Language Models" 구현체인 loralib 코드

에이전트 강화학습 트레이너: GRPO를 사용하여 실제 태스크를 수행하는 다단계 에이전트를 훈련합니다. 에이전트에게 실무 교육을 제공하세요. Qwen3.6, GPT-OSS, Llama 등을 위한 강화학습!

BELLE: 모두를 위한 대형 언어 모델 엔진 (오픈소스 중국어 대화 대규모 언어 모델)

오픈 소스 오프그리드 메시 통신 시스템인 Meshtastic의 공식 펌웨어

Low-rank adaptation을 사용하여 diffusion 모델을 빠르게 미세 조정합니다.

LoRa, 패킷 라디오, WiFi 및 그 외 다양한 기술을 활용하여 중단 없는 네트워크를 구축하기 위한 암호화 기반 네트워킹 스택.

Firefly: Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom 등 대형 모델 학습을 지원하는 대형 모델 학습 도구

kohya-ss 트레이너를 사용하는 확산 모델용 LoRA 및 Dreambooth 학습 스크립트 및 GUI

고성능 오픈소스 무선 제어 링크

AI 연구원이 로컬 하드웨어에서 GPU 클러스터에 이르기까지 모델을 원활하게 학습, 평가 및 확장할 수 있는 오픈 소스 연구 환경

양방향 433mhz/315mhz/868mhz, 적외선 통신, BLE, 블루투스, 비콘 감지, Mi Flora, Mi Jia, LYWSD02, LYWSD03MMC, Mi Scale, TPMS, BBQ 온도계 및 LoRa 호환성을 갖춘 ESP8266 또는 ESP32용 MQTT 게이트웨이

[ICLR2025 Spotlight] SVDQuant: 4비트 Diffusion 모델을 위한 저랭크 컴포넌트를 통한 이상치 흡수

수천 개의 파인튜닝된 LLM으로 확장 가능한 멀티 LoRA 추론 서버

단일 YAML로 LLM 파인튜닝. 레이어 스트리밍을 통해 4GB 노트북 GPU에서 8B 모델 학습 가능

🦞 에이전트와 대화하기만 하세요. 스스로 학습하고 진화합니다 🧬.

AI 캐릭터 생성, 애니메이션 및 일정 관리 🤖

OneTrainer는 Diffusion 학습 요구사항을 위한 원스톱 솔루션입니다.

peft를 이용한 LLM 파인튜닝

파라미터 효율적이고 모듈화된 전이 학습을 위한 통합 라이브러리

PJON(Padded Jittering Operative Network)은 아두이노 호환 멀티 마스터 멀티 미디어 네트워크 프로토콜 실험입니다.

LongLoRA 및 LongAlpaca 코드와 문서 (ICLR 2024 Oral)

나만의 LLM을 구축, 개인화 및 제어하세요. 데이터 전처리부터 파인튜닝까지, xTuring은 오픈소스 LLM을 개인화하는 쉬운 방법을 제공합니다.