llama

Kimi-K2.6, GLM-5.2, MiniMax, DeepSeek, gpt-oss, Qwen, Gemma 및 기타 모델을 설정하고 실행하세요.

LLM을 위한 고성능 및 메모리 효율적인 추론 및 서빙 엔진

Qwen3.8, Kimi K3, MiniMax-H3, Gemma 4, DeepSeek-V4, FLUX 등을 포함한 LLM 및 디퓨전 모델을 실행하고 학습하기 위한 로컬 UI

100개 이상의 LLM 및 VLM을 위한 통합 효율적 미세 조정(ACL 2024)

LocalAI는 오픈소스 AI 엔진입니다. LLM, 비전, 음성, 이미지, 비디오 등 어떤 모델이든 하드웨어 제약 없이 실행하세요. GPU는 필요하지 않습니다.

aider는 터미널에서 사용하는 AI 페어 프로그래밍 도구입니다

다양한 IM 플랫폼, LLM, 플러그인 및 AI 기능을 통합한 AI Agent 어시스턴트 및 개발 프레임워크로, openclaw의 대안이 될 수 있습니다. ✨

Langchain 및 ChatGLM, Qwen, Llama 등 언어 모델 기반의 RAG 및 에이전트 애플리케이션 (구 Langchain-ChatGLM)

단일 4GB GPU로 AirLLM 70B 추론 수행

SGLang은 대규모 언어 모델 및 멀티모달 모델을 위한 고성능 서빙 프레임워크입니다.

SOTA 오픈소스 TTS

📦 Repomix는 전체 저장소를 AI 친화적인 단일 파일로 압축해 주는 강력한 도구입니다. 코드베이스를 대규모 언어 모델(LLM)이나 Claude, ChatGPT, DeepSeek, Perplexity, Gemini, Gemma, Llama, Grok 등과 같은 다른 AI 도구에 제공해야 할 때 완벽합니다.

[NeurIPS'23 Oral] GPT-4V 수준 이상의 기능을 목표로 구축된 Visual Instruction Tuning (LLaVA).

오픈소스 중국어 대형 언어 모델 정리. 소규모, 자체 배포 가능, 낮은 학습 비용의 모델을 중심으로 베이스 모델, 버티컬 도메인 미세 조정 및 응용, 데이터셋 및 튜토리얼 등을 포함.

중국어 LLaMA 및 Alpaca 대규모 언어 모델 + 로컬 CPU/GPU 학습 및 배포 (Chinese LLaMA & Alpaca LLMs)

Llama Cookbook에 오신 것을 환영합니다! Llama를 활용한 구축을 위한 필수 가이드로, 추론, 파인튜닝, RAG 시작하기를 다룹니다. 또한 Llama 모델 제품군을 사용하여 엔드투엔드 문제를 해결하고 다양한 제공업체 서비스에서 활용하는 방법을 보여줍니다.

PEFT 또는 풀 파라미터를 사용하여 600개 이상의 LLM(Qwen3.6, DeepSeek-V4, GLM-5.1, InternLM3, Llama4, ...) 및 300개 이상의 MLLM(Qwen3-VL, Qwen3-Omni, InternVL3.5, Ovis2.5, GLM4.5v, Gemma4, Llava, Phi4, ...)을 학습/미세조정(CPT/SFT/DPO/GRPO)하는 툴킷 (AAAI 2025).

ChatGPT API 및 다양한 LLM을 위한 GUI. 에이전트, 파일 기반 QA, GPT 파인튜닝, 웹 검색 쿼리를 지원합니다. 깔끔한 UI 제공.

Llama 중국 커뮤니티, 최신 Llama 학습 자료 실시간 집계, 최고의 중국어 Llama 대형 모델 오픈소스 생태계 구축, 완전 오픈소스 상업적 이용 가능

LangChain4j는 JVM에서 LLM 기반 애플리케이션을 구축하기 위한 직관적인 오픈 소스 Java 라이브러리입니다. 주요 LLM 공급자와 벡터 저장소에 대한 통합 API를 제공하며, 도구 호출(MCP 지원 포함), 에이전트, RAG 구현을 쉽게 만들어 줍니다. Quarkus 및 Spring Boot와 같은 엔터프라이즈 Java 프레임워크와 원활하게 통합됩니다.

멋정한 모델 주를 제공하는 사용하기 쉽고 강력한 LLM 및 SLM 라이브러리입니다.

로컬 머신에서 LLaMA를 실행하는 가장 간단한 방법

DeepSeek 및 Llama 같은 오픈소스 LLM을 클라우드에서 OpenAI 호환 API 엔드포인트로 실행하세요.

GPT-5와 같은 AI 대형 언어 모델로 구동되는 명령줄 생산성 도구로, 작업을 더 빠르고 효율적으로 완료할 수 있도록 도와줍니다.

BISHENG은 차세대 엔터프라이즈 AI 애플리케이션을 위한 오픈소스 LLM 데브옵스 플랫폼입니다. GenAI 워크플로, RAG, 에이전트, 통합 모델 관리, 평가, SFT, 데이터셋 관리, 엔터프라이즈급 시스템 관리, 관측 가능성 등 강력하고 포괄적인 기능을 제공합니다.

커스텀 LLM, 신경망 및 기타 AI 모델을 구축하기 위한 로우코드 프레임워크

자가 호스팅형 오프라인 ChatGPT 유사 챗봇. Llama 2 탑재. 데이터가 기기를 벗어나지 않는 100% 프라이버시 보장. 신규: Code Llama 지원!

🌸 BitTorrent 방식으로 집에서 LLM을 실행하세요. 오프로딩보다 최대 10배 빠른 파인튜닝과 추론을 제공합니다.

로컬 배포를 위한 고속 대형 언어 모델 서빙

Qwen, Gemma 또는 모든 오픈 웨이트 LLM을 손쉽게 파인튜닝, 평가 및 배포하세요!