rlhf

100개 이상의 LLM 및 VLM을 위한 통합 효율적 미세 조정(ACL 2024)

OpenAssistant는 작업을 이해하고, 타사 시스템과 상호 작용하며, 이를 위해 동적으로 정보를 검색할 수 있는 채팅 기반 어시스턴트입니다.

"A Survey of Large Language Models" 설문 논문을 위한 공식 GitHub 페이지

InternLM 시리즈 공식 릴리스 (InternLM, InternLM2, InternLM2.5, InternLM3).

중국어 LLaMA-2 & Alpaca-2 대형 언어 모델 2기 프로젝트 + 64K 초장문 컨텍스트 모델

인간 및 AI 선호도에 맞춰 언어 모델을 정렬하기 위한 강력한 레시피

OpenClaw-RL: 대화만으로 모든 에이전트 학습

AI 연구원이 로컬 하드웨어에서 GPU 클러스터에 이르기까지 모델을 원활하게 학습, 평가 및 확장할 수 있는 오픈 소스 연구 환경

PyTorch로 처음부터 단계별로 추론 LLM 구현하기

Argilla는 AI 엔지니어와 도메인 전문가가 고품질 데이터셋을 구축하기 위한 협업 도구입니다.

AI 시스템 구축, 평가 및 최적화. 평가, RAG, 에이전트, 파인튜닝, 합성 데이터 생성, 데이터셋 관리, MCP 등을 포함합니다.

Align Anything: 피드백을 통한 전모달(All-modality) 모델 학습

인간 피드백 기반 강화 학습(RLHF) 리소스 모음 (지속 업데이트)

🚀 기초 RL 개념부터 LLM 정렬, RLVR, 고급 Agentic 시스템까지의 간극을 메우는 오픈소스 실습 커리큘럼

데이터를 위한 닥터

Distilabel은 검증된 연구 논문을 바탕으로 빠르고 안정적이며 확장 가능한 파이프라인이 필요한 엔지니어를 위한 합성 데이터 및 AI 피드백 프레임워크입니다.

대형 언어 모델을 이용한 강화 학습을 위한 효율적이고 사용자 친화적인 스케일링 라이브러리

PyTorch를 위한 LeetCode — Google, Meta, Anthropic의 실제 인터뷰에서 출제된 65개의 ML/AI 인터뷰 문제. Jupyter 노트북, 자동 채점기, MCP AI 튜터 제공.

인간 피드백 기반 강화학습(RLHF) 교과서

지시사항을 따르는 언어 모델을 위한 자동 평가기. 인간 검증을 거쳤으며, 고품질이고 저렴하며 빠릅니다.

Agentic RL 관련 유용한 목록

[NeurIPS 2023] ImageReward: 텍스트-이미지 생성을 위한 인간 선호도 학습 및 평가

Safe RLHF: 안전한 인간 피드백 기반 강화 학습을 통한 제약된 가치 정렬

WebGLM: 효율적인 웹 강화형 질의응답 시스템 (KDD 2023)

RLHF를 위한 리워드 모델 학습 레시피

대규모 언어 모델(LLM)의 RLHF 비밀 파트 I: PPO

Xtreme1은 멀티모달 데이터 학습을 위한 올인원 데이터 레이블링 및 주석 플랫폼이며 3D LiDAR 포인트 클라우드, 이미지 및 LLM을 지원합니다.

[NeurIPS 2024] SimPO: 참조 없는 보상을 활용한 단순 선호도 최적화

디퓨전 및 옴니 모델을 위한 멀티모달 RL 학습 프레임워크

AI 기술의 바다를 항해하는 커뮤니티의 길잡이가 되어 줄 'AI-Compass'. 초보자와 숙련된 개발자 모두 AI의 다양한 분야로 향하는 경로를 찾을 수 있습니다.