llm

🚀 Thư viện huấn luyện phân tán Pytorch cho LLM/VLM với hỗ trợ sẵn có cho Hugging Face

Danh sách các dự án AI mã nguồn mở bạn có thể sử dụng để tạo thu nhập một cách dễ dàng.

Công cụ bảo vệ quyền riêng tư ưu tiên cục bộ: ẩn danh tài liệu của bạn trước khi chia sẻ với các LLM.

Tác nhân nghiên cứu chuyên sâu giúp bạn tìm kiếm các kho lưu trữ GitHub tốt nhất

Một công cụ tăng tốc suy luận LLM được tối ưu hóa cao cho Llama và các biến thể của nó.

PanWatch · Trợ lý theo dõi thị trường AI tự lưu trữ, tích hợp TradingAgents cho quyết định đầu tư đa tác nhân | Giám sát thời gian thực, quản lý danh mục, phân tích thông minh và thông báo đa kênh cho chứng khoán A/HK/US

Một mẫu sẵn sàng cho môi trường sản xuất để khởi động các dự án Generative AI của bạn với cấu trúc và khả năng mở rộng.

OpenEverest là nền tảng mã nguồn mở để tự động hóa việc cung cấp và quản lý cơ sở dữ liệu. Nó hỗ trợ nhiều công nghệ cơ sở dữ liệu và có thể được lưu trữ trên bất kỳ hạ tầng Kubernetes nào, trên đám mây hoặc tại chỗ

Nền tảng mã nguồn mở gợi ý bài báo arXiv / OpenReview hàng ngày và đọc hiểu bằng AI, hỗ trợ cập nhật tự động qua GitHub Actions, triển khai qua GitHub Pages và hỏi đáp về bài báo.

RAG Time: Hành trình học tập 5 tuần để làm chủ RAG

Framework phục vụ mô hình ML hiệu năng cao, cung cấp tính năng xử lý theo lô động và đường ống CPU/GPU để khai thác tối đa máy tính của bạn

Trợ lý GPT toàn diện cho Android, kích hoạt bằng phím âm lượng để tương tác giọng nói, hỗ trợ kết nối mạng, chụp ảnh, mẫu, phân tích tài liệu và chế độ tác nhân (agent mode).

🚀 Chạy Codex Mobile ở bất cứ đâu: Linux, Windows hoặc Termux trên Android 🚀

Công cụ kiểm thử xâm nhập AI tự hành, bảo mật tấn công liên tục trên web, đám mây, danh tính, CI/CD, IaC, cơ sở dữ liệu, Active Directory, Kubernetes và firmware IoT. Khả năng suy luận của tác nhân cùng với việc thực thi khai thác thực tế mang lại các lỗ hổng dựa trên bằng chứng. Cổng bảo mật quyền riêng tư: LLM không bao giờ thấy IP, máy chủ hoặc thông tin xác thực thực của bạn, không có gì rời khỏi phạm vi của bạn.

LAYRA—giải pháp sẵn sàng cho doanh nghiệp, dùng ngay—mở khóa các hệ thống thông minh thế hệ mới được hỗ trợ bởi RAG thị giác và điều phối quy trình làm việc đa bước thị giác không giới hạn.

Ngăn xếp trình biên dịch học sâu mở cho các bộ tăng tốc Kendryte AI ✨

Bản xây dựng lại hoàn toàn bằng Python của Claude Code với hiệu suất token cao. AI Coding Agent với 310K dòng mã Python. Tiết kiệm chi phí lên đến 200 lần!

Một cộng sự nghiên cứu AI tự phát triển dành cho các nhà khoa học. 285 kỹ năng, không ảo giác, bộ nhớ bền bỉ.

Phơi bày các điểm cuối Gemini CLI dưới dạng OpenAI API bằng Cloudflare Workers

Một LLM có khả năng trò chuyện chạy trên máy tính cá nhân của bạn mà không cần kết nối Internet.

Một sandbox cục bộ dành cho các AI agent của bạn

Thư viện PyTorch chứa các mô hình Transformer được tuyển chọn và các thành phần có thể kết hợp

Ghi chú về LLM, bao gồm suy luận mô hình, cấu trúc mô hình transformer và ghi chú phân tích mã nguồn framework LLM.

Plugin tự động hóa quy trình làm việc AI để tạo mã thông minh với Claude/Codex

AgentChat là nền tảng giao tiếp tác nhân dựa trên LLM, tích hợp sẵn các Agent mặc định và hỗ trợ tùy chỉnh. Thông qua đối thoại đa vòng và cộng tác nhiệm vụ, các Agent có thể hiểu và hỗ trợ hoàn thành các tác vụ phức tạp. Dự án tích hợp LangChain, Function Call, giao thức MCP, RAG, Memory, HITL, Skill, Milvus và ElasticSearch để đạt hiệu quả truy xuất tri thức và gọi công cụ, sử dụng FastAPI để xây dựng dịch vụ backend hiệu năng cao.

Code2Prompt là một công cụ dòng lệnh mạnh mẽ giúp đơn giản hóa quá trình cung cấp ngữ cảnh cho các mô hình ngôn ngữ lớn (LLM) bằng cách tạo ra một tệp Markdown toàn diện chứa nội dung mã nguồn của bạn.

The ripgrep of AI context: a zero-dependency C++23 CLI + MCP server giving coding agents a ranked, deterministic map of any repo, blast radius, tests-to-run and quality deltas. Signatures at 80% fewer bytes than bodies; ~5% of a grep-and-read pass's tokens.

Lộ trình 10 tuần, mỗi ngày 30 phút về suy luận và tối ưu hóa LLM, bao gồm vLLM, SGLang, lượng tử hóa, giải mã suy đoán và đo điểm chuẩn.

LSP server tận dụng LLM để hoàn thiện mã nguồn (và nhiều tính năng khác?).

📦️ Máy chủ MCP nhanh chóng, bảo mật, mở rộng khả năng thông qua các plugin WebAssembly.