ai-infra

安全、快速且可扩展的 AI 代理沙盒运行时。

全栈 AI Red Teaming 平台，通过 Agent Scan、Skills Scan、MCP Scan、AI Infra Scan 以及 LLM jailbreak 评估来保护 AI 生态系统。

🚀 Awesome System for Machine Learning ⚡️ AI System Papers and Industry Practice. ⚡️ System for Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Video Tutorials.

SwanLab - 开源、现代化 AI 训练追踪与可视化工具。支持云端 / 自托管使用，整合 PyTorch / Transformers / verl / LLaMA Factory / ms-swift / Ultralytics / MMEngine / Keras 等。

TurboDiffusion：为影片扩散模型提供 100–200 倍加速

AI 基础知识 - GPU 架构、CUDA 编程、大模型基础及 AI Agent 相关知识。

[ICML2025] SpargeAttention：一种无需训练的稀疏注意力机制，可加速任何模型的推理。

Tensorlake 是一个用于沙箱及部署背景 agentic 应用程序的无服务器运行时

AI-Native & Cloud-Native FS：针对云对象存储的高性能文件语义层，集成高速缓存。CNCF Sandbox 项目。

HPC 教程，包含集合通信（MPI、NCCL）、CUDA 编程、向量化 SIMD、RDMA 通信等

适用于生产环境 AI 系统的检索层。无需向量数据库即可实现极速搜索（<10ms）。专为浏览器、Edge、端侧与云端打造。