ai-infra

安全、快速且可擴充的 AI 代理沙盒執行環境。

全棧 AI Red Teaming 平台，通過 Agent Scan、Skills Scan、MCP Scan、AI Infra Scan 以及 LLM jailbreak 評估來保護 AI 生態系統。

🚀 Awesome System for Machine Learning ⚡️ AI System Papers and Industry Practice. ⚡️ System for Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Video Tutorials.

SwanLab - 開源、現代化 AI 訓練追蹤與可視化工具。支援雲端 / 自託管使用，整合 PyTorch / Transformers / verl / LLaMA Factory / ms-swift / Ultralytics / MMEngine / Keras 等。

TurboDiffusion：為影片擴散模型提供 100–200 倍加速

AI 基礎知識 - GPU 架構、CUDA 程式設計、大模型基礎及 AI Agent 相關知識。

[ICML2025] SpargeAttention：一種無需訓練的稀疏注意力機制，可加速任何模型的推論。

Tensorlake 是一個用於沙箱及部署背景 agentic 應用程式的無伺服器執行環境

AI-Native & Cloud-Native FS：針對雲端物件儲存的高效能檔案語意層，整合高速快取。CNCF Sandbox 專案。

HPC 教學，包含集合通訊（MPI、NCCL）、CUDA 編程、向量化 SIMD、RDMA 通訊等

適用於生產環境 AI 系統的檢索層。無需向量資料庫即可實現極速搜尋（<10ms）。專為瀏覽器、Edge、端側與雲端打造。