local-llm

PokeClaw (PocketClaw) — 안드로이드폰을 제어하는 최초의 온디바이스 AI. Gemma 4, 클라우드 없음, API 키 없음. Poke는 Pocket의 줄임말입니다.

프레임워크, 클라우드 API, 숨겨진 추론 과정 없이 로컬 LLM을 사용하여 제1원칙부터 AI 에이전트 구축

자체 호스팅 AI 자동화 플랫폼. 명령어 하나로 n8n, Ollama, Flowise, RAG, Supabase 등 30개 이상의 도구 배포 가능. 자동 HTTPS 지원. Zapier/Make의 무료 대안

ANE / Media Engine / 메모리 대역폭 추적 기능을 갖춘 Sudo 권한이 필요 없는 Apple Silicon 시스템 모니터 (네이티브 SwiftUI GUI)

웹, 클라우드, 아이덴티티, CI/CD, IaC, 데이터베이스, Active Directory, Kubernetes 및 IoT 펌웨어 전반에 걸친 지속적인 공격형 보안, 자율형 AI 펜테스팅 엔진입니다. 에이전틱 추론과 실제 익스플로잇 실행을 통해 증거 기반 취약점을 제공합니다. 프라이버시 게이트웨이: LLM은 실제 IP, 호스트, 자격 증명을 볼 수 없으며 어떤 정보도 외부로 유출되지 않습니다.

Nornicdb는 모든 서브 밀리초(ms) HNSW 검색, 그래프 탐색 및 쓰기를 지원하는 분산 저지연, 그래프+벡터, 타임스탬프 MVCC입니다. Neo4j Bolt/Cypher와 qdrant gRPC를 지원하므로 변경 없이 전환할 수 있으며 스키마, 관리형 임베딩, 리랭킹+LLM, GPU 가속, 자동 TLP, 정책 기반 메모리 감쇠, MCP 서버 같은 지능형 기능을 추가할 수 있습니다.

오프라인 AI 추론 실험을 위해 Jetpack Compose와 ONNX Runtime을 사용한 안드로이드 17 로컬 LLM 프로토타입

Ollama를 활용한 100% 로컬 Karpathy LLM 위키. 마크다운 노트를 넣으면 AI가 개념을 추출하고 Obsidian 위키에 자동 링크를 생성함. 데이터 공유 없이 개인 노트 유지 가능.

Ollama용 TUI MCP Client로 로컬 LLM의 강력한 성능을 활용하세요. 모든 핵심 MCP 프리미티브(도구, 프롬프트, 리소스), 에이전트 모드, 멀티 서버, 모델 전환, 스트리밍 응답, Human-in-the-loop, 사고 모드, 모델 매개변수 설정, 시스템 프롬프트 및 저장된 환경 설정을 지원합니다.

1M 컨텍스트를 지원하는 빠른 로컬 DeepSeek V4 Pro/Flash용 macOS 메뉴바 앱.

오늘날 Android에서 가장 진보된 완전 오프라인 클라이언트 측 AI 스위트

단일 기기에서 전체 Kimi K3 실행 및 로컬 채팅과 코딩 에이전트를 위한 OpenAI 호환 API 서버

A minimalist, terminal-native coding agent written in C.

Chatterbox를 활용한 로컬 OpenAI 호환 텍스트 음성 변환(TTS) API로, Open WebUI나 AnythingLLM 등 OpenAI API를 사용하는 모든 곳에서 음성 복제 기능을 제공

Apple Silicon에서 최대 4배 빨라진 무손실 LLM 디코딩. DeepSeek의 DSpark 및 z-lab의 DFlash 추정 디코딩(speculative decoding)의 네이티브 MLX 포팅 — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, Ornith-1.0, 3진(ternary) Bonsai-27B 지원.

Open-source AI companions, desktop pets, long-term memory & proactive chat. 人机恋开源项目大全。让你的家机能够脱离官端自主存在，拥有记忆和主动性。

Swiftlet은 Apple 기기에서 대규모 Qwen Mixture-of-Experts 모델을 로컬로 실행하기 위한 Swift 및 Metal 런타임입니다. 스토리지에서 전문가 가중치를 스트리밍하여 iPhone을 포함한 저사양 RAM 환경에서도 35B 및 80B 모델을 실행할 수 있습니다.

오픈소스 로컬 AI SDK - 클라우드나 API 키 없이 기기 내에서 AI를 실행합니다. GGUF, RAG, 이미지·음악·동영상 생성, 음성 인식, P2P 추론 등을 지원합니다. 크로스 플랫폼 지원: Linux, macOS, Windows, Android, iOS.

소설 집필을 위한 AI 기반 IDE — 로컬 LLM 및 RAG 지원, 개인정보 보호 우선, BYOK 방식. 웹 소설 작가 및 창작자를 위한 도구

AI 에이전트가 개인 및 팀의 맥락을 이해하도록 돕는 자가 진화형 세컨드 브레인 구축 솔루션

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).