llamacpp

코드 자동완성(및 그 이상)을 위해 LLM을 활용하는 LSP 서버

"PyTorch와 Hugging Face로 LLM 미세조정하기 핸즈온 가이드" 도서의 공식 저장소

Debian에서 로컬 및 완전 비공개 LLM 서버를 구축하기 위한 엔드투엔드 문서. 채팅, 웹 검색, RAG, 모델 관리, MCP 서버, 이미지 생성 및 TTS 기능 포함

순수 Java로 구현한 Llama 3+ 추론 엔진

오늘날 Android에서 가장 진보된 완전 오프라인 클라이언트 측 AI 스위트

🤖 LLM을 위한 TUI

llama-cpp-agent 프레임워크는 대규모 언어 모델(LLM)과 쉽게 상호작용할 수 있도록 설계된 도구입니다. 사용자가 LLM 모델과 대화하고, 구조화된 함수 호출을 실행하며, 구조화된 출력을 얻을 수 있게 합니다. JSON 출력이나 함수 호출을 위해 파인튜닝되지 않은 모델에서도 작동합니다.

Yet Another Language Model: I/O를 제외한 라이브러리 의존성 없이 C++/CUDA로 구현한 LLM 추론 엔진

하드웨어 가속을 사용하여 로컬 추론을 위해 llama.cpp를 직접 통합한 Go 애플리케이션입니다.

Visual Studio Code와 Continue 확장 프로그램을 사용하여 Code Llama를 활용하는 GitHub Copilot의 로컬 LLM 대안

정적 suckless 단일 배치 CUDA 전용 qwen3-0.6B 미니 추론 엔진

llama.cpp를 사용하는 임베디드 벡터 검색 및 의미론적 임베딩을 위한 Go 라이브러리

Claude Code CLI를 사용하는 효율적인 코드 상호작용을 위한 HTTP 프록시 역할을 하는 CLI 도구 Lynkr로 워크플로우를 간소화하세요.

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser