mlops

Thư viện ghi nhật ký dữ liệu mã nguồn mở cho các mô hình machine learning và data pipeline. 📚 Cung cấp khả năng hiển thị chất lượng dữ liệu & hiệu suất mô hình theo thời gian. 🛡️ Hỗ trợ thu thập dữ liệu bảo vệ quyền riêng tư, đảm bảo an toàn & tính mạnh mẽ. 📈

Lớp ngữ cảnh cho dữ liệu phi cấu trúc: các tập dữ liệu có kiểu và có phiên bản trên S3, GCS, Azure

Plugin phần cứng do cộng đồng duy trì cho vLLM trên Ascend

✨ Xây dựng mô hình machine learning từ một prompt

Apache Hamilton giúp các nhà khoa học dữ liệu và kỹ sư định nghĩa các luồng dữ liệu có tính mô-đun, dễ kiểm thử, tự tài liệu hóa, tích hợp sẵn khả năng theo dõi nguồn gốc (lineage/tracing) và metadata. Chạy và mở rộng ở mọi nơi có Python.

Xây dựng ứng dụng đưa ra quyết định (chatbot, agent, mô phỏng, v.v.). Giám sát, theo dõi, lưu trữ và thực thi trên hạ tầng của riêng bạn.

Danh sách tổng hợp các dự án và tài nguyên tuyệt vời liên quan đến Argo (một dự án đã tốt nghiệp CNCF)

cubestudio là nền tảng AI/ML/DL/MaaS/MLOps mã nguồn mở, hỗ trợ quy trình thuật toán toàn diện, đa người dùng, cho thuê tài nguyên tính toán, chuyển tiếp token, lập lịch pipeline kéo thả, huấn luyện phân tán đa máy đa card, tìm kiếm siêu tham số, dịch vụ suy luận, ảo hóa VGPU, phối hợp đám mây-cạnh, tính toán biên, gán nhãn tự động, tinh chỉnh (SFT) các mô hình lớn như DeepSeek, suy luận đa máy với vLLM/Ollama/Mindie, tri thức nội bộ LLMOps, chợ mô hình AI, hỗ trợ tính toán dị thể nội địa (Ascend, Cambricon, v.v.) và RDMA.

LUPINE là một cầu nối GPU qua IP cho phép gắn GPU trên máy từ xa vào các máy chỉ có CPU.

🤖 Khung tự sửa đổi từ tương lai 🔮 AMS đầu tiên trên thế giới

🏕️ Môi trường phát triển có thể tái tạo dành cho con người và agent

Đào tạo mô hình AI phân tán và Fine-Tuning LLM trên Kubernetes

nannyml: Khoa học dữ liệu sau triển khai bằng python

Cac vi du MLOps

Virtual Feature Store. Biến cơ sở hạ tầng dữ liệu hiện có của bạn thành một feature store.

Feathr – Một nền tảng kỹ thuật dữ liệu và AI thống nhất, có khả năng mở rộng dành cho doanh nghiệp

Hàng rào bảo vệ an toàn ưu tiên cho các hoạt động đám mây và Kubernetes được thúc đẩy bởi AI

OpenMLDB là cơ sở dữ liệu học máy mã nguồn mở cung cấp nền tảng tính năng giúp đồng bộ hóa các đặc trưng cho quá trình huấn luyện và suy luận.

Machine Learning tự động trên Kubernetes

MLRun là một nền tảng MLOps mã nguồn mở để nhanh chóng xây dựng và quản lý các ứng dụng ML liên tục trong suốt vòng đời của chúng. MLRun tích hợp vào môi trường phát triển và CI/CD của bạn, đồng thời tự động hóa việc phân phối dữ liệu sản xuất, các đường ống ML và các ứng dụng trực tuyến.

Lộ trình học tập Kỹ sư Hạ tầng AI - Chương trình giảng dạy hạ tầng ML sản xuất (2-4 năm kinh nghiệm)

:closed_book: Sự minh bạch trong thế giới đổi mới Mã nguồn mở đầy biến động hiện nay

🔥 Bảng điều khiển GPU NVIDIA thời gian thực

Nền tảng nghiên cứu benchmark suy luận liên tục mã nguồn mở — Kimi K3 2.8T, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 & sắp ra mắt™ TPUv6e/v7/Trainium2/3 | Nền tảng nghiên cứu benchmark suy luận liên tục mã nguồn mở — Kimi K2.7-Code, MiniMax M3, DeepSeekv4, GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72, sắp ra mắt™ TPUv6e/v7/Trainium2/3

🤖 MLE-Agent: Bạn đồng hành thông minh cho kỹ thuật và nghiên cứu AI liền mạch. 🔍 Tích hợp với arxiv và paper with code để cung cấp kế hoạch mã nguồn/nghiên cứu tốt hơn 🧰 Hỗ trợ OpenAI, Anthropic, Gemini, Ollama, v.v. :fireworks: Code RAG

ModelFox giúp việc huấn luyện, triển khai và giám sát các mô hình machine learning trở nên dễ dàng.

Một mẫu gói Python toàn diện để khởi1 đầu và chuẩn hóa các sáng kiến MLOps và đường ống dữ liệu của bạn.

Một công cụ DevOps mã nguồn mở từ CNCF dùng để đóng gói và quản lý phiên bản cho các mô hình AI/ML, tập dữ liệu, mã nguồn và cấu hình thành một OCI Artifact.

Triển khai dịch vụ suy luận ML với ngân sách hạn hẹp trong chưa đầy 10 dòng mã.

Hopsworks - Nền tảng AI thâm canh dữ liệu với Feature Store