llama

중국어 NLP 솔루션 (대규모 모델, 데이터, 모델, 학습, 추론)

수천 개의 파인튜닝된 LLM으로 확장 가능한 멀티 LoRA 추론 서버

로컬 기기에서 LLM(🦙LLaMA/LLaVA)을 효율적으로 실행하기 위한 C#/.NET 라이브러리.

Eagle: 데이터 중심 전략을 적용한 최첨단 비전-언어 모델

LangChain 및 ChatGLM-6B 등 LLM 시리즈 기반의 로컬 지식 베이스 타겟 자동 Q&A

다른 소프트웨어를 설치할 필요 없이 Mac의 파일, 폴더, 웹사이트 정보를 바탕으로 응답할 수 있는 로컬 LLM과 대화할 수 있는 네이티브 macOS 앱입니다. llama.cpp로 구동됩니다.

처음부터 현대적인 LLM 구축하기. 모든 줄에 주석 포함. 아주 쉽게 설명됨.

Apple Silicon에서 로컬 AI를 사용하여 Claude Code를 100% 온디바이스로 실행합니다. MLX 네이티브 Anthropic API 서버. Muse-Glimmer 30B(멀티모달 지원, 이미지 판독 가능, 검열 해제됨), Gemma 4 31B, Qwen 3.5 122B(초당 65토큰), DeepSeek V4 Flash(1M 컨텍스트) 등 6개 모델 탑재. 개인용, 오프라인, 에어갭 환경 지원. NDA, 법률, 의료 워크플로우를 위해 제작되었습니다.

터미널에서 무료로 사용하는 AI 챗봇

AGiXT는 다양한 AI 제공자 간의 명령어 관리와 복잡한 작업 실행을 원활하게 조율하는 동적 AI 에이전트 자동화 플랫폼입니다. 적응형 메모리, 스마트 기능, 다용도 플러그인 시스템을 결합하여 효율적이고 포괄적인 AI 솔루션을 제공합니다.

InternGPT (iGPT)는 AI 모델을 쉽게 시각화할 수 있는 오픈소스 데모 플랫폼입니다. 이제 DragGAN, ChatGPT, ImageBind, GPT-4와 같은 멀티모달 채팅, SAM, 대화형 이미지 편집 등을 지원합니다. igpt.opengvlab.com에서 체험해 보세요.

LSP-AI는 소프트웨어 엔지니어를 대체하는 것이 아니라 지원하고 역량을 강화하도록 설계된, AI 기반 기능의 백엔드 역할을 하는 오픈 소스 언어 서버입니다.

[EMNLP 2023 Demo] Video-LLaMA: 비디오 이해를 위한 인스트럭션 튜닝된 오디오-비주얼 언어 모델

Chinese-LLaMA 1&2, Chinese-Falcon 기초 모델; ChatFlow 중국어 대화 모델; 중국어 OpenLLaMA 모델; NLP 사전 학습/인스트럭션 튜닝 데이터셋

peft를 이용한 LLM 파인튜닝

학습 및 추론을 위한 PyTorch 기본 양자화

[ACL 2024] LLM을 위한 사용하기 쉬운 지식 편집 프레임워크입니다.

나만의 LLM을 구축, 개인화 및 제어하세요. 데이터 전처리부터 파인튜닝까지, xTuring은 오픈소스 LLM을 개인화하는 쉬운 방법을 제공합니다.

[EMNLP-2024] 빠른 프로토타입 및 프로덕션을 위한 멀티모달 언어 에이전트 구축

Maid는 로컬에서는 llama.cpp 모델과 연동하고, 원격으로는 Anthropic, DeepSeek, Ollama, Mistral, OpenAI 모델과 통신할 수 있는 무료 오픈소스 애플리케이션입니다.

ChatGPT, Gemini, Claude, DeepSeek 및 기타 모델을 지원하는 강력한 Zotero AI 및 MCP 플러그인

mPLUG-Owl: 강력한 멀티모달 대형 언어 모델 패밀리

쉽게 만드는 대규모 언어 모델(LLM), EasyLM은 JAX/Flax에서 LLM의 사전 학습, 파인튜닝, 평가 및 서빙을 위한 원스톱 솔루션입니다.

대형 언어 모델과 상호작용하기 위한 빠르고 키보드 중심적인 터미널 사용자 인터페이스. ChatGPT, Claude, Llama 3, Phi 3, Mistral, Gemma 등과 대화하세요.

오픈 LLM을 위한 OpenAI 스타일 API, ChatGPT처럼 LLM 사용! LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 등 지원

ComfyUI의 LLM Agent Framework는 MCP 서버, Omost, GPT-sovits, ChatTTS, GOT-OCR2.0 및 FLUX 프롬프트 노드를 포함하며, Feishu와 Discord에 액세스하고, o1, ollama, gemini, grok, qwen, GLM, deepseek, kimi, doubao와 같은 유사한 openai / aisuite 인터페이스를 가진 모든 LLM에 적응합니다. llama-3.3 Janus-Pro, Linkage graphRAG와 같은 로컬 LLM, VLM, GGUF에 적응합니다.

FinGLM: 오픈소스와 개방을 통해 'AI+금융'을 촉진하기 위해 개방형, 공익적, 지속 가능한 금융 대형 모델 프로젝트 구축을 지향합니다.

Rust로 구현된 즉각적이고 제어 가능한 로컬 사전 학습 AI 모델

llama.cpp의 Node.js 바인딩을 사용하여 로컬 머신에서 AI 모델을 실행하고 생성 수준에서 JSON 스키마 강제 적용

시스템 가상화를 위해 AI를 활용하는 안전한 로우코드 유인(deception) 런타임 프레임워크