local-llm

PokeClaw (PocketClaw) — AI đầu tiên chạy trên thiết bị có thể điều khiển điện thoại Android của bạn. Sử dụng Gemma 4, không cần đám mây, không cần API key. Poke là viết tắt của Pocket.

Xây dựng AI agent từ những nguyên tắc cơ bản bằng cách sử dụng LLM cục bộ - không có framework, không có cloud API, không có suy luận ẩn.

Công cụ giám sát hệ thống Apple Silicon không cần sudo (GUI SwiftUI gốc) với tính năng theo dõi ANE / Media Engine / băng thông bộ nhớ

🚀 Nền tảng tự động hóa AI tự lưu trữ. Triển khai n8n, Ollama, Flowise, RAG, Supabase & hơn 30 công cụ chỉ với một lệnh. Tự động HTTPS. Giải pháp thay thế miễn phí cho Zapier/Make.

Công cụ kiểm thử xâm nhập AI tự hành, bảo mật tấn công liên tục trên web, đám mây, danh tính, CI/CD, IaC, cơ sở dữ liệu, Active Directory, Kubernetes và firmware IoT. Khả năng suy luận của tác nhân cùng với việc thực thi khai thác thực tế mang lại các lỗ hổng dựa trên bằng chứng. Cổng bảo mật quyền riêng tư: LLM không bao giờ thấy IP, máy chủ hoặc thông tin xác thực thực của bạn, không có gì rời khỏi phạm vi của bạn.

Nornicdb là cơ sở dữ liệu phân tán độ trễ thấp, kết hợp Đồ thị + Vector, MVCC tạm thời với khả năng tìm kiếm HNSW, duyệt đồ thị và ghi dữ liệu dưới 1ms. Sử dụng Neo4j Bolt/Cypher và gRPC của qdrant giúp bạn chuyển đổi mà không cần thay đổi mã nguồn, đồng thời bổ sung các tính năng thông minh như lược đồ, quản lý embedding, reranking+LLM, tăng tốc GPU, Auto-TLP, phân rã bộ nhớ dựa trên chính sách và máy chủ MCP.

Nguyên mẫu LLM cục bộ trên Android 17 sử dụng Jetpack Compose và ONNX Runtime cho các thí nghiệm suy luận AI ngoại tuyến.

Wiki LLM của Karpathy, chạy 100% cục bộ với Ollama. Thả các ghi chú Markdown → AI trích xuất khái niệm → wiki Obsidian của bạn tự động liên kết và phát triển. Không chia sẻ. Ghi chú của bạn vẫn là của bạn.

Khai thác sức mạnh của các LLM cục bộ với TUI MCP Client này cho Ollama. Bao gồm tất cả các nguyên tắc cốt lõi của MCP (công cụ, gợi ý, tài nguyên), chế độ tác nhân, đa máy chủ, chuyển đổi mô hình, phản hồi trực tuyến, con người trong vòng lặp, chế độ suy nghĩ, cấu hình tham số mô hình, gợi ý hệ thống và lưu tùy chọn.

Bộ công cụ AI phía máy khách (client-side) hoạt động hoàn toàn ngoại tuyến tiên tiến nhất trên Android hiện nay.

Ứng dụng thanh menu macOS cho DeepSeek V4 Pro/Flash cục bộ nhanh chóng, với ngữ cảnh 1M.

Chạy Kimi K3 đầy đủ trên một thiết bị duy nhất. Cung cấp máy chủ API tương thích với OpenAI cho các tác nhân trò chuyện và lập trình cục bộ.

Một tác nhân lập trình tối giản, chạy trên terminal được viết bằng C.

API chuyển văn bản thành giọng nói (TTS) cục bộ, tương thích với OpenAI sử dụng Chatterbox, cho phép người dùng tạo giọng nói nhân bản ở bất kỳ đâu sử dụng OpenAI API (ví dụ: Open WebUI, AnythingLLM, v.v.)

Giải mã LLM nhanh hơn tới 4 lần trên Apple Silicon, không mất dữ liệu. Bản port MLX gốc của DSpark từ DeepSeek và DFlash từ z-lab cho giải mã suy đoán — Gemma-4, Qwen3.8, Muse-Glimmer, Nemotron, LFM2.5, Ornith-1.0, ternary Bonsai-27B.

Danh mục các dự án AI đồng hành mã nguồn mở: bộ nhớ dài hạn, hành vi chủ động, giọng nói, hiện thân và các hoạt động chia sẻ. 157 mục được gắn thẻ theo ngôn ngữ, nền tảng và mức độ sẵn sàng.

Swiftlet là môi trường thực thi Swift và Metal cho phép chạy cục bộ các mô hình Qwen Mixture-of-Experts lớn trên thiết bị Apple bằng cách truyền tải trọng số chuyên gia từ bộ nhớ, giúp các mô hình 35B và 80B có thể chạy với dung lượng RAM thấp, bao gồm cả trên iPhone.

SDK AI cục bộ mã nguồn mở - chạy AI trên thiết bị mà không cần đám mây, không cần khóa API. Hỗ trợ GGUF, RAG, tạo hình ảnh, âm nhạc, video, chuyển đổi giọng nói thành văn bản, suy luận P2P và nhiều tính năng khác. Đa nền tảng: Linux, macOS, Windows, Android, iOS.

IDE hỗ trợ AI dành cho viết tiểu thuyết — LLM cục bộ + RAG, ưu tiên quyền riêng tư, BYOK. Dành cho tác giả tiểu thuyết mạng và người viết sáng tạo.

Các giải pháp được tuyển chọn để xây dựng bộ não thứ hai tự tiến hóa, giúp các tác nhân AI hiểu được bối cảnh cá nhân và nhóm của bạn.

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).