llama2

ChatGPT 등 대형 언어 모델(LLM)과 커스텀 데이터를 활용한 LangChain 및 프롬프트 엔지니어링 튜토리얼. 데이터 로딩 및 인덱싱, 프롬프트 템플릿 생성, CSV 에이전트, 검색 QA 체인을 사용한 커스텀 데이터 질의 관련 Jupyter 노트북. 프라이빗 LLM(Llama 2)을 사용한 PDF 파일 채팅, 트윗 감성 분석 프로젝트.

로컬 AI를 사용하여 문서와 대화하기

사전 계산된 임베딩과 고급 유사도 측정 방식을 사용하여 의미론적 텍스트 검색을 수행하는 FastAPI 서비스이며, textract를 통해 다양한 파일 형식을 지원합니다.

LLM을 위한 처리량 중심의 고성능 서빙 프레임워크

지식 집약적 작업을 위해 지식 그래프 기반 검색 증강 생성(KG-RAG)을 사용하여 대형 언어 모델(LLM) 강화

[ICLR 2025] 정렬된 LLM에 아무것도 입력하지 않고 프롬프트를 통해 처음부터 정렬 데이터 합성. 효율적이고 고품질의 합성 데이터 생성 파이프라인!

오픈소스 LLM의 미세 조정(fine-tuning), 제거 연구(ablating) 및 단위 테스트를 위한 툴킷.

Microsoft의 Copilot 스택을 활용하여 AI가 통합된 제품 경험을 구현하는 지능형 앱 샘플입니다.

로컬에서 실행되는 개인용 웨어러블 AI

[ICLR 2024] Sheared LLaMA: 구조적 프루닝을 통한 언어 모델 사전 학습 가속화

ChatGPT API, Bard API, Llama2, Python-Nmap, DNS Recon, PCAP 및 JWT 정찰 모듈을 사용하며, GPT3 모델을 통해 Nmap 스캔 데이터와 DNS 스캔 정보를 기반으로 취약점 보고서를 생성합니다. 또한 광범위한 서브도메인 열거를 수행할 수 있습니다.

[ECCV2024] 로컬라이즈된 시각적 토큰화를 갖춘 접지형 멀티모달 대규모 언어 모델

LLM(대규모 언어 모델) 파인튜닝

신입 채용 및 인턴십을 위한 프로젝트로, LLama2/3 및 Qwen2.5를 지원하는 대규모 언어 모델 추론 프레임워크를 처음부터 직접 구현합니다.

AnglE을 사용하여 강력한 문장 임베딩 학습 및 추론 | STS 및 MTEB 리더보드 SOTA 달성

Visual Studio Code와 Continue 확장 프로그램을 사용하여 Code Llama를 활용하는 GitHub Copilot의 로컬 LLM 대안

0부터 1까지 MiniLLM 구축 (pretrain+sft+dpo 실습 중)

[ACL 2024] 블록 확장을 적용한 Progressive LLaMA

LLM을 활용한 지식 그래프 생성