mlops

用于机器学习模型和数据管道的开源数据日志库。📚 提供对数据质量和模型长期性能的可见性。🛡️ 支持隐私保护的数据收集，确保安全与鲁棒性。📈

非结构化数据的 Context 层：基于 S3、GCS、Azure 的类型化、版本化数据集

社区维护的 vLLM on Ascend 硬件插件

✨ 从提示词构建机器学习模型

Apache Hamilton 帮助数据科学家和工程师定义可测试、模块化、自文档化的数据流，并编码血缘/追踪与元数据。可在任何 Python 执行的环境中执行与扩展。

构建能做决定的应用程序（聊天机器人、agent、模拟等）。在您自己的基础设施上进行监控、追踪、持久化与执行。

精选的 Argo（CNCF 毕业项目）相关项目与资源列表

cubestudio 开源云原生一站式机器学习/深度学习/大模型AI平台/MaaS/mlops/人工智能平台/训推平台，算法全链路流程，多租户，算力租赁平台，token中转，拖拉拽任务流pipeline编排，多机多卡分布式训练，超参搜索，推理服务，VGPU虚拟化，云边端协同，边缘计算，自动化标注平台，deepseek等大模型sft微调/奖励模型/强化学习训练，vllm/ollama/mindie大模型多机推理，私有知识库llmops智能体，AI模型市场，支持国产异构算力调度,昇腾/寒武纪/海光/摩尔/沐曦等，支持ib/roce/RDMA，信创支持

LUPINE 是一个 GPU over IP 桥接器，允许将远程机器上的 GPU 连接到仅有 CPU 的机器。

🤖 来自未来的自我修改框架 🔮 世界首创的 AMS

🏕️ 适用于人类与 agents 的可复现开发环境

在 Kubernetes 上进行分布式 AI 模型训练与 LLM 微调

nannyml：Python 中的部署后数据科学工具

MLOps 示例

虚拟特征存储。将您现有的数据基础设施转化为特征存储。

Feathr – 企业级可扩展的统一数据与 AI 工程平台

适用于 AI 驱动的云与 Kubernetes 运维的安全优先护栏

OpenMLDB 是一个开源的机器学习数据库，提供一个能为训练与推理计算一致性特征的特征平台。

基于 Kubernetes 的自动化机器学习

MLRun 是一个开源 MLOps 平台，用于在整个生命周期中快速构建与管理持续 ML 应用程序。MLRun 可集成到您的开发与 CI/CD 环境中，并自动化交付生产数据、ML 管道和在线应用程序。

AI 基础设施工程师学习路径 - 生产环境 ML 基础设施课程（2-4 年经验）

:closed_book: 在当前快节奏且混乱的开源创新中保持清晰的思路

🔥 实时 NVIDIA GPU 仪表板

开源持续推理基准研究平台 — Kimi K3 2.8T、MiniMax M3、DeepSeekv4、GLM5 - GB200 NVL72 vs MI355X vs B200 vs GB300 NVL72 ＆ 即将推出™ TPUv6e/v7/Trainium2/3

🤖 MLE-Agent：您无缝 AI 工程与研究的智能伙伴。🔍 整合 arxiv 与 paper with code 以提供更好的代码／研究计划 🧰 支持 OpenAI、Anthropic、Gemini、Ollama 等。🎆 代码 RAG

ModelFox 让机器学习模型的训练、部署与监控变得轻松简单。

一个全方位的 Python 包模板，用于快速启动并标准化您的 MLOps 计划与数据管道。

来自 CNCF 的开源 DevOps 工具，用于将 AI/ML 模型、数据集、代码和配置打包并进行版本控制成 OCI Artifact。

以不到 10 行代码、符合预算的成本部署 ML 推理服务。

Hopsworks - 具备特征存储库的数据密集型 AI 平台