genai

🚀 Hệ thống tuyệt vời cho Machine Learning ⚡️ Tài liệu hệ thống AI và Thực tiễn ngành. ⚡️ Hệ thống cho Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, v.v. 🗃️ Llama3, Mistral, v.v. 🧑‍💻 Video hướng dẫn.

Tối ưu hóa proxy suy luận cho các LLM

[ICLR2025 Spotlight] SVDQuant: Hấp thụ các giá trị ngoại lai bằng các thành phần hạng thấp cho các mô hình Diffusion 4-bit

Lớp bộ nhớ phổ quát dành cho AI Agent. Cung cấp bộ lưu trữ và truy xuất bộ nhớ có thể mở rộng, tương tác để đơn giản hóa việc quản lý trạng thái của AI agent cho các hệ thống tự trị thế hệ mới.

Plugin ComfyUI của Nunchaku

Nền tảng mã nguồn mở dành cho Kỹ thuật AI: Khả năng quan sát LLM gốc OpenTelemetry, Giám sát GPU, Hàng rào bảo vệ, Đánh giá, Quản lý Prompt, Vault, Playground. Tích hợp với hơn 50 Nhà cung cấp LLM, VectorDB, Framework Agent và GPU.

Tài nguyên toàn diện về Generative AI, bao gồm lộ trình chi tiết, dự án, trường hợp sử dụng, chuẩn bị phỏng vấn và chuẩn bị lập trình.

Xây dựng, chạy và mở rộng quy mô các tác nhân AI giống như API và microservices

Yuanjing Wanwu Agent Platform của China Unicom là nền tảng phát triển AI agent đa người dùng cấp doanh nghiệp. Nền tảng giúp người dùng xây dựng các ứng dụng như agent thông minh, workflow và RAG, đồng thời hỗ trợ quản lý mô hình. Nền tảng sử dụng giấy phép thân thiện với nhà phát triển và chúng tôi chào đón tất cả các nhà phát triển cùng xây dựng trên nền tảng này.

Xây dựng giải pháp Gen AI đáng tin cậy mà không có chi phí vận hành dư thừa 🍕

GenAI Processors là một thư viện Python nhẹ giúp xử lý nội dung song song hiệu quả.

Nền tảng RAG mã nguồn mở: tích hợp trích dẫn, nghiên cứu chuyên sâu, hỗ trợ hơn 22 định dạng tệp, phân vùng, máy chủ MCP và nhiều tính năng khác.

Hãy dân chủ hóa việc tạo ảnh độ phân giải cao! (CVPR 2024)

Witsy: trợ lý AI trên desktop / ứng dụng khách MCP đa năng

Một framework triển khai AI đơn giản, dễ sử dụng và hiệu năng cao

Một bộ công cụ Java mã nguồn mở, ưu tiên mã để xây dựng, đánh giá và triển khai các tác nhân AI tinh vi với sự linh hoạt và kiểm soát.

LLPhant - Một Framework Generative AI toàn diện bằng PHP sử dụng OpenAI GPT 4. Lấy cảm hứng từ Langchain

Kho lưu trữ này cung cấp giải pháp Retrieval-Augmented Generation (RAG) nâng cao cho việc trả lời câu hỏi phức tạp. Nó sử dụng thuật toán dựa trên đồ thị tinh vi để xử lý các tác vụ.

Backend đa phương thức thống nhất cho các ứng dụng dữ liệu AI

Bộ công cụ tạo thiết lập Retrieval Augmented Generation (RAG) tối ưu và sẵn sàng cho Production dành cho dữ liệu của bạn

Xây dựng các AI agent cho PC của bạn

Một dự án mã nguồn mở dành cho các nhà phát triển Windows để học cách thêm AI với các mô hình cục bộ và API vào ứng dụng Windows.

Đánh giá LLM bằng cách cho chúng đấu trong Street Fighter 3! Phương pháp mới để đánh giá chất lượng của LLM.

Giải pháp mô-đun và toàn diện để triển khai chatbot tích hợp Multi-LLM và Multi-RAG (Amazon Bedrock, Anthropic, HuggingFace, OpenAI, Meta, AI21, Cohere, Mistral) sử dụng AWS CDK trên AWS

Bộ công cụ Typescript mã nguồn mở, theo code-first để xây dựng, đánh giá và triển khai các AI agent phức tạp với tính linh hoạt và khả năng kiểm soát.

Jlama là một công cụ suy luận LLM hiện đại dành cho Java

Neo4j GraphRAG cho Python

Framework nén mạng nơ-ron để tăng cường suy luận OpenVINO™

Bộ công cụ cung cấp cho các agent khả năng mạnh mẽ.

Notebooks và ứng dụng mẫu cho các ứng dụng Tìm kiếm & AI với Elasticsearch