llama2

[NeurIPS'23 Oral] GPT-4V 수준 이상의 기능을 목표로 구축된 Visual Instruction Tuning (LLaVA).

Llama Cookbook에 오신 것을 환영합니다! Llama를 활용한 구축을 위한 필수 가이드로, 추론, 파인튜닝, RAG 시작하기를 다룹니다. 또한 Llama 모델 제품군을 사용하여 엔드투엔드 문제를 해결하고 다양한 제공업체 서비스에서 활용하는 방법을 보여줍니다.

DeepSeek 및 Llama 같은 오픈소스 LLM을 클라우드에서 OpenAI 호환 API 엔드포인트로 실행하세요.

커스텀 LLM, 신경망 및 기타 AI 모델을 구축하기 위한 로우코드 프레임워크

자가 호스팅형 오프라인 ChatGPT 유사 챗봇. Llama 2 탑재. 데이터가 기기를 벗어나지 않는 100% 프라이버시 보장. 신규: Code Llama 지원!

LMDeploy는 LLM 압축, 배포 및 서빙을 위한 툴킷입니다.

OpenCompass는 100개 이상의 데이터셋을 바탕으로 Llama3, Mistral, InternLM2, GPT-4, LLaMa2, Qwen, GLM, Claude 등 다양한 모델을 지원하는 LLM 평가 플랫폼입니다.

중국어 LLaMA-2 & Alpaca-2 대형 언어 모델 2기 프로젝트 + 64K 초장문 컨텍스트 모델

Firefly: Qwen2.5, Qwen2, Yi1.5, Phi-3, Llama3, Gemma, MiniCPM, Yi, Deepseek, Orion, Xverse, Mixtral-8x7B, Zephyr, Mistral, Baichuan2, Llama2, Llama, Qwen, Baichuan, ChatGLM2, InternLM, Ziya2, Vicuna, Bloom 등 대형 모델 학습을 지원하는 대형 모델 학습 도구

Enchanted는 Ollama를 사용하여 Llama2, Mistral, Vicuna 등 자체 호스팅된 개인용 언어 모델과 대화할 수 있는 iOS 및 macOS 앱입니다.

H2O LLM Studio - LLM 미세 조정을 위한 프레임워크 및 노코드 GUI. 문서: https://docs.h2o.ai/h2o-llmstudio/

Llama3 중국어 사후 학습 버전

결함 허용 및 고확장성 GPU 오케스트레이션, 그리고 수십억에서 수조 개의 매개변수를 가진 모델을 학습하기 위해 설계된 머신러닝 프레임워크

Baichuan Intelligent Technology에서 개발한 대형 언어 모델 시리즈

중국어 NLP 솔루션 (대규모 모델, 데이터, 모델, 학습, 추론)

로컬 기기에서 LLM(🦙LLaMA/LLaVA)을 효율적으로 실행하기 위한 C#/.NET 라이브러리.

The most no-nonsense, locally or API-hosted AI code completion plugin for Visual Studio Code - like GitHub Copilot but 100% free.

분산형 LLM 추론. 홈 기기들을 강력한 클러스터로 연결하여 LLM 추론을 가속화합니다. 기기가 많을수록 추론 속도가 빨라집니다.

오류 수정, 스마트 청킹, 스캔된 PDF의 마크다운 포맷팅을 위해 LLM(로컬 또는 API)을 사용하여 Tesseract OCR 출력을 향상시킵니다.

peft를 이용한 LLM 파인튜닝

✨ 터미널, 브라우저, 에디터를 사용하여 복잡한 작업과 프로젝트를 수행할 수 있는 완전 자율형 AI Agent.

오픈 LLM을 위한 OpenAI 스타일 API, ChatGPT처럼 LLM 사용! LLaMA, LLaMA-2, BLOOM, Falcon, Baichuan, Qwen, Xverse, SqlCoder, CodeLLaMA, ChatGLM, ChatGLM2, ChatGLM3 등 지원

간단하고 고성능이며 확장 가능한 Jax LLM!

TigerBot: 다국어 멀티태스크 LLM

단일 파일에서 Llama 2 추론 실행

Aila(AI超元域): Windows, macOS, Android를 위한 최고의 AI 통합 툴. 한 번의 질문으로 ChatGPT, Gemini, Claude3, Copilot, Poe, perplexity 등 10개 이상의 AI로부터 답변을 받으세요. 사용자 정의 가능한 AI 및 프롬프트 기능 제공.

GPU 또는 CPU(Linux/Windows/Mac)에서 gradio UI를 사용하여 어디서나 로컬로 Llama 2를 실행하세요. 생성형 에이전트/앱을 위한 로컬 llama2 백엔드로 `llama2-wrapper`를 사용하세요.

[ICML 2024] LLMCompiler: 병렬 함수 호출을 위한 LLM 컴파일러

프로덕션 환경을 위한 RAG 기반 LLM 애플리케이션 구축 종합 가이드

모든 LLM의 토큰/초 및 GPU 메모리 요구량을 계산합니다. llama.cpp/ggml/bnb/QLoRA 양자화 지원