transformers

Attention을 활용한 SOTA 메쉬 생성 모델 MeshGPT의 Pytorch 구현

다양한 NLP 태스크를 위해 transformers를 파인튜닝하는 튜토리얼이 포함된 Github 저장소입니다.

"PyTorch와 Hugging Face로 LLM 미세조정하기 핸즈온 가이드" 도서의 공식 저장소

로컬 우선 프라이버시 보호 도구: LLM과 공유하기 전에 문서를 익명화합니다.

MOMENT: 오픈 시계열 파운데이션 모델 패밀리, ICML'24

🤖✨ChatMLX는 대규모 언어 모델을 기반으로 하는 MacOS용 현대적이고 오픈 소스이며 고성능인 채팅 애플리케이션입니다.

순수 Java로 구현한 Llama 3+ 추론 엔진

NMA 딥러닝 코스

PhoBERT: 베트남어 사전 훈련된 언어 모델 (EMNLP-2020 Findings)

PyTorch를 이용한 대조 학습(Contrastive Learning) 모델 훈련

Hugging Face 모델이 로컬 GPU에 적합하고 파인튜닝이 가능한지 추정합니다.

Mask GIT을 사용하여 최대 2분 길이의 텍스트 기반 영상을 생성하는 Phenaki Video의 PyTorch 구현

GPT의 사실적 연관성 위치 파악 및 편집 (NeurIPS 2022)

Large Context Attention

Transformers PHP는 PHP 개발자가 프로젝트에 머신러닝 기능을 쉽게 추가할 수 있도록 해주는 툴킷입니다.

RepE 제어 벡터 생성을 위한 라이브러리

JointBERT의 PyTorch 구현체: "의도 분류 및 슬롯 채우기를 위한 BERT"

가장 흥미롭고 영향력 있는 CVPR 2024 논문을 엄선한 저장소. 🔥 [논문 + 코드 + 데모]

재학습 없이 일정한 메모리 사용량으로 기존 LLM의 학습 길이를 대폭 확장

LLM-PowerHouse: 엄선된 튜토리얼, 모범 사례, 커스텀 학습 및 추론을 위한 즉시 사용 가능한 코드를 통해 LLM의 잠재력을 극대화합니다.

언어 모델링을 위해 Kolmogorov-Arnold Networks(KAN)를 사용하는 GPT(Generative Pre-trained Transformers)의 PyTorch 구현

중국어 자연어 처리를 위한 사전 학습 모델 재검토 (MacBERT)

순수 Rust로 작성된 추론 엔진.

Pytorch로 구현한 MagViT2 토크나이저

감성 분석 및 소셜 NLP 작업을 위한 Python 다국어 툴킷

Pytorch로 구현한 MEGABYTE(멀티스케일 트랜스포머를 사용한 백만 바이트 시퀀스 예측)입니다.

이 저장소는 2023년 CVPR의 가장 흥미롭고 영향력 있는 논문들을 선별한 컬렉션입니다. 🔥 [논문 + 코드]

Python 기반 텍스트 분류를 위한 능동 학습(Active Learning)

"Neural Thickets: Diverse Task Experts Are Dense Around Pretrained Weights" (ICML 2026 Spotlight) 공식 코드베이스

한국어 사전 학습 ELECTRA 모델