llm

Tuyển tập các công cụ, tài liệu và dự án tuyệt vời về Bảo mật LLM.

Tác nhân lập trình AI tối giản (~1.000 dòng Python) lấy cảm hứng từ Claude Code. Hoạt động với mọi LLM. Giống như NanoGPT dành cho các tác nhân lập trình. Trước đây là NanoCoder.

Công cụ brute-force nâng cao được hỗ trợ bởi LLM, kết hợp trí tuệ AI với các cuộc tấn công đăng nhập tự động

Công cụ suy luận hiệu suất cao cho các mô hình AI

LLM(😽)

【Quản gia Zotero AI】Gọi các mô hình lớn để tự động đọc kỹ và tóm tắt các bài báo trong thư viện thành ghi chú Zotero. Hỗ trợ các nền tảng mô hình lớn phổ biến! Bạn chỉ cần thả tài liệu vào Zotero như thường lệ, quản gia sẽ tự động giúp bạn đọc kỹ bài báo, phân tích và tóm tắt thành ghi chú, giúp bạn “hiểu hoàn toàn bài báo này trong 10 phút”!

Xử lý hàng loạt bằng tác nhân thông minh và LLM được tối ưu hóa trên dữ liệu của bạn

Nền tảng phục vụ và cân bằng tải LLM/VLM mã nguồn mở để tự host LLM (và VLM) quy mô lớn 🏓🦙 Thay thế cho các dự án như llm-d, Docker Model Runner, v.v. nhưng ít thành phần phụ thuộc hơn và dễ dàng triển khai xoay quanh hệ sinh thái ggml. Chạy được trên CPU và GPU.

Trench — Cơ sở hạ tầng phân tích mã nguồn mở. Một image Docker sẵn sàng cho môi trường production được xây dựng trên ClickHouse, Kafka và Node.js để theo dõi sự kiện. Dễ dàng xây dựng bảng điều khiển phân tích sản phẩm, LLM RAG, nền tảng quan sát, hoặc bất kỳ sản phẩm phân tích nào khác.

Thư viện toán tử TT-NN và mô hình lập trình kernel cấp thấp TT-Metalium.

LLM Agent tự hành nguồn mở dành cho React.js

《构筑大语言模型应用：应用开发与架构设计》一本关于 LLM 在真实世界应用的开源电子书，介绍了大语言模型的基础知识和应用，以及如何构建自己的模型。其中包括Prompt的编写、开发和管理，探索最好的大语言模型能带来什么，以及LLM应用开发的模式和架构设计。

Waku Waku! Waku Agent là một khung AI agent ưu tiên cục bộ mà bạn thực sự sở hữu, bao gồm vòng lặp, bộ nhớ, đánh giá, tất cả đều bằng mã được xây dựng để giữ độ dễ đọc khi phát triển.

Agent-R1: Đào tạo các Agent LLM mạnh mẽ bằng Học tăng cường đầu cuối (End-to-End Reinforcement Learning)

Tự tạo câu chuyện của riêng bạn. Phần mềm thân thiện với người dùng dành cho nhập vai LLM

Tác nhân lập trình phản hồi bạn, theo mô hình của bạn, máy của bạn, quy tắc của bạn.

Một framework nhanh và nhẹ để tạo các tác nhân phi tập trung một cách dễ dàng.

Client desktop AI đa tác nhân mã nguồn mở — xây dựng và điều khiển đội ngũ tác nhân AI của bạn thông qua hội thoại. Một LLM điều phối phân phối các tác nhân phụ song song hoặc nối tiếp; các tác nhân tự tiến hóa thông qua phản hồi và kết tinh kỹ năng. Ưu tiên cục bộ, tự mang khóa LLM (Claude · OpenAI · Gemini · DeepSeek · Kimi · GLM · Qwen). macOS / Windows / Linux.

Công cụ tạo tập dữ liệu tổng hợp (synthetic datasets) chất lượng cao

Bộ công cụ AI tất-cả-trong-một để quản lý prompt, agent và skill, hỗ trợ đồng bộ đám mây, sao lưu và quản lý phiên bản.

Bộ sưu tập các tài论文 về AI Agent (Cập nhật hai tuần một lần)

playwright để sử dụng trên máy tính Windows.

🔥 Bảng điều khiển GPU NVIDIA thời gian thực

ROSA 🤖 là một AI Agent được thiết kế để tương tác với các hệ thống robot dựa trên ROS1 và ROS2 bằng các truy vấn ngôn ngữ tự nhiên. ROSA giúp các nhà phát triển robot kiểm tra, chẩn đoán, hiểu và vận hành robot.

Kho lưu trữ này cung cấp giải pháp Retrieval-Augmented Generation (RAG) nâng cao cho việc trả lời câu hỏi phức tạp. Nó sử dụng thuật toán dựa trên đồ thị tinh vi để xử lý các tác vụ.

Trực quan hóa thời gian thực việc điều phối tác nhân Claude Code — quan sát các tác nhân suy nghĩ, phân nhánh và phối hợp khi làm việc.

Bộ công cụ nén mô hình được thiết kế để nâng cao tính dễ sử dụng, tính toàn diện và hiệu quả.

Backend đa phương thức thống nhất cho các ứng dụng dữ liệu AI

Danh sách tài nguyên, công cụ và các tiện ích tuyệt vời được tuyển chọn cho kỹ thuật prompt LLM.