llama

순수 Golang으로 구현된 llama.cpp와 같은 라이브러리인 llama.go입니다!

LLM을 구조화된 NLP 파이프라인에 통합

오픈소스 지식 기반 대형 언어 모델 프레임워크

Parallax는 어디서나 자신만의 AI 클러스터를 구축할 수 있게 해주는 분산 모델 서빙 프레임워크입니다.

📎 Clippy, 이제 AI 기능 탑재

Transformers의 우아한 PyTorch 구현체

RTP-LLM: 다양한 애플리케이션을 위한 Alibaba의 고성능 LLM 추론 엔진.

Jlama는 Java용 최신 LLM 추론 엔진입니다.

개인용 컴퓨터에서 Alpaca(및 기타 LLaMA 기반 로컬 LLM)를 실행하는 가장 간단한 방법

LLM의 온라인 활동 지원하기

워크플로우, 액션, 에이전트 및 대화형 채널을 하나의 런타임으로 통합한 AI 워크플로우 자동화 플랫폼 Hexabot v3

llama.cpp용 WebAssembly 바인딩 - 브라우저 내 LLM 추론 활성화

에이전트에게 강력한 기능을 부여하는 도구 모음입니다.

지시어 추종 LLM(ChatGPT, LLaMA, Alpaca) 학습을 위한 오픈소스 데이터셋 모음

Transformer 네트워크, 어텐션 메커니즘, GPT, BERT, ChatGPT, LLM, 전이 학습에 중점을 둔 NLP 리소스 모음

[NeurIPS 2023] LLM-Pruner: 대형 언어 모델의 구조적 프루닝. Llama-3/3.1, Llama-2, LLaMA, BLOOM, Vicuna, Baichuan, TinyLlama 등 지원.

일반 사용자 하드웨어에 로컬로 배포할 수 있는 다양한 LLM의 성능을 비교합니다. Colab WebUI로 직접 실행해 보세요.

브라우저에서 네이티브로 실행되는 AI 대규모 언어 모델과 대화하세요. 서버 없이 프라이빗하고 원활한 AI 대화를 즐길 수 있습니다.

[ECCV 2024 Best Paper Candidate & TPAMI 2025] PointLLM: 대규모 언어 모델이 포인트 클라우드를 이해하도록 역량 강화

컴파일러 기술로 향상된 TypeScript AI Function Calling 프레임워크.

개발자와 팀이 문서를 생성하고 저장소를 빠르게 이해하도록 돕는 LLM 기반 저장소 에이전트

llama.cpp의 React Native 바인딩

NLP에서 LLM까지의 알고리즘 풀스택 튜토리얼, 온라인 읽기 주소: https://datawhalechina.github.io/base-llm/

Cotabby는 Mac 전체를 위한 로컬 AI 자동 완성 기능입니다. 오픈 소스. 온디바이스. 타이핑하는 모든 곳에서 사용하세요.

⛷️ LLaMA-MoE: 지속적 사전 학습을 통한 LLaMA 기반 Mixture-of-Experts 구축 (EMNLP 2024)

소규모 대형 멀티모달 모델 프레임워크

중국어 법률 LLaMA (중국 법률 도메인을 위한 LLaMA)

프레임워크, 클라우드 API, 숨겨진 추론 과정 없이 로컬 LLM을 사용하여 제1원칙부터 AI 에이전트 구축

TextGen: LLaMA, BLOOM, GPT2, BART, T5, SongNet 등을 포함한 텍스트 생성 모델 구현체. LLaMA, ChatGLM, BLOOM, GPT2, Seq2Seq, BART, T5, UDA 등의 모델 학습 및 예측을 지원하며 즉시 사용 가능합니다.

배경지식이 거의 없는 상태에서 2026년에 LLM 기술을 시작하고 향상시키며 최신 뉴스 및 최신 기술을 파악할 수 있는 완벽한 가이드