llamacpp

LSP server tận dụng LLM để hoàn thiện mã nguồn (và nhiều tính năng khác?).

Kho lưu trữ chính thức cho cuốn sách "Hướng dẫn thực hành tinh chỉnh LLM với PyTorch và Hugging Face"

Tài liệu toàn diện để thiết lập máy chủ LLM cục bộ và hoàn toàn riêng tư trên Debian. Được trang bị tính năng trò chuyện, tìm kiếm web, RAG, quản lý mô hình, máy chủ MCP, tạo hình ảnh và TTS.

Suy luận Llama 3+ bằng Java thuần.

Bộ công cụ AI phía máy khách (client-side) hoạt động hoàn toàn ngoại tuyến tiên tiến nhất trên Android hiện nay.

TUI cho LLM

Khung llama-cpp-agent là công cụ được thiết kế để tương tác dễ dàng với các Mô hình Ngôn ngữ Lớn (LLM). Cho phép người dùng trò chuyện với các mô hình LLM, thực thi các lệnh gọi hàm có cấu trúc và nhận đầu ra có cấu trúc. Hoạt động với cả các mô hình không được tinh chỉnh cho đầu ra JSON và gọi hàm.

Yet Another Language Model: Suy luận LLM bằng C++/CUDA, không sử dụng thư viện ngoại trừ I/O.

Go với trí tuệ của riêng bạn - Các ứng dụng Go tích hợp trực tiếp llama.cpp để suy luận cục bộ sử dụng tăng tốc phần cứng.

Sử dụng Code Llama với Visual Studio Code và tiện ích mở rộng Continue. Một giải pháp LLM cục bộ thay thế cho GitHub Copilot.

Công cụ suy luận mini qwen3-0.6B tĩnh, chạy trên CUDA, không cần phụ thuộc

Thư viện Go cho tìm kiếm vector nhúng và nhúng ngữ nghĩa sử dụng llama.cpp

Tối ưu hóa quy trình làm việc với Lynkr, một công cụ CLI đóng vai trò là proxy HTTP để tương tác mã nguồn hiệu quả thông qua Claude Code CLI.

Browser Operator - The AI browser with built in Multi-Agent platform! Open source alternative to ChatGPT Atlas, Perplexity Comet, Dia and Microsoft CoPilot Edge Browser