llama

🧑‍🚀 전 세계 최고의 LLM 자료 요약 (멀티모달 생성, Agent, 보조 프로그래밍, AI 심사, 데이터 처리, 모델 학습, 모델 추론, o1 모델, MCP, 소형 언어 모델, 시각 언어 모델) | Summary of the world's best LLM resources.

BELLE: 모두를 위한 대형 언어 모델 엔진 (오픈소스 중국어 대화 대규모 언어 모델)

LLM을 위한 시맨틱 캐시. LangChain 및 llama_index와 완전 통합.

모두를 위한 Kubernetes 슈퍼파워 부여

LMDeploy는 LLM 압축, 배포 및 서빙을 위한 툴킷입니다.

Android에서 가장 강력하고 오래 발전해 온 AI Agent 및 AI 챗 소프트웨어

사전 학습된 대규모 언어 모델 병합용 도구

중국어 LLaMA-2 & Alpaca-2 대형 언어 모델 2기 프로젝트 + 64K 초장문 컨텍스트 모델

LLM을 사용하여 모든 웹페이지를 구조화된 데이터로 변환

Firefly: Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom 등 대형 모델 학습을 지원하는 대형 모델 학습 도구

LLM 학습을 위한 효율적인 Triton Kernel

YuE: 오픈 풀송 음악 생성 파운데이션 모델, Suno.ai와 유사하지만 오픈소스임

Enchanted는 Ollama를 사용하여 Llama2, Mistral, Vicuna 등 자체 호스팅된 개인용 언어 모델과 대화할 수 있는 iOS 및 macOS 앱입니다.

OpenAI API, Ollama, Deepseek-r1, Azure 및 모든 OpenAI API 호환 서비스를 사용하여 문서를 자동으로 분석하고 태그를 지정하는 Paperless-ngx용 자동 문서 분석기.

⚡ 순수 Rust WebGPU 추론 엔진 — OpenAI API 호환, GGUF 네이티브, 모든 GPU에서 실행. Python 없음. llama.cpp 없음. 단일 바이너리.

MedicalGPT: ChatGPT 학습 파이프라인으로 나만의 의료용 GPT 모델 학습하기. 사전 훈련(PT), 지도 미세 조정(SFT), RLHF, DPO, ORPO, GRPO를 포함한 의료용 대형 모델 학습 구현

BaiChuan-Inc에서 개발한 대규모 7B 사전 학습 언어 모델.

고성능 AI 모델 서빙(vLLM, SGLang) 및 온디맨드 SSH 접근 가능 GPU 인스턴스를 위한 GPU 클러스터 관리자

Lemonade는 사용자의 GPU와 NPU에서 직접 최적화된 LLM을 구동하여 로컬 AI 앱을 발견하고 실행할 수 있도록 돕습니다. 디스코드 참여: https://discord.gg/5xXzkMu8Zk

로컬 OpenAI/Anthropic 호환 서버(llama.cpp, vllm 등)를 위한 안정적인 모델 스와핑

AI 연구원이 로컬 하드웨어에서 GPU 클러스터에 이르기까지 모델을 원활하게 학습, 평가 및 확장할 수 있는 오픈 소스 연구 환경

H2O LLM Studio - LLM 미세 조정을 위한 프레임워크 및 노코드 GUI. 문서: https://docs.h2o.ai/h2o-llmstudio/

'대규모 언어 모델 화이트박스 구축 가이드': 처음부터 직접 만드는 Tiny-Universe

중국어 의학 지식으로 대규모 언어 모델을 지시사항 미세조정(Instruction-tuning)하는 BenCao(원명: HuaTuo, 화타) 모델 저장소

Python 기초만으로 바닥부터 LLM 구축하기; GLM4, Llama3, RWKV6를 단계별로 구현하며 대규모 언어 모델의 원리 심층 이해

LightLLM은 가벼운 디자인, 쉬운 확장성, 고속 성능이 특징인 파이썬 기반 LLM(대규모 언어 모델) 추론 및 서빙 프레임워크입니다.

Llama3 중국어 사후 학습 버전

결함 허용 및 고확장성 GPU 오케스트레이션, 그리고 수십억에서 수조 개의 매개변수를 가진 모델을 학습하기 위해 설계된 머신러닝 프레임워크

Chinese-Vicuna: 중국어 지시 따르기 LLaMA 기반 모델 —— alpaca 구조를 참고한 중국어 저자원 llama+lora 솔루션

멀티 에이전트 프로그래밍으로 LLM 활용하기