ai-infra

Environnement d'exécution sandbox sécurisé, rapide et extensible pour les agents IA.

Une plateforme complète de Red Teaming pour l'IA, sécurisant les écosystèmes d'IA via l'analyse d'agents, de compétences, de MCP, d'infrastructures IA et l'évaluation de jailbreak LLM.

🚀 Système impressionnant pour le Machine Learning ⚡️ Articles sur les systèmes d'IA et pratiques industrielles. ⚡️ Système pour le Machine Learning, LLM (Large Language Model), GenAI (IA générative). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Tutoriels vidéo.

⚡️SwanLab - un outil open-source au design moderne pour le suivi et la visualisation de l'entraînement d'IA. Prend en charge l'utilisation dans le cloud ou auto-hébergée. Intégré avec PyTorch, Transformers, verl, LLaMA Factory, ms-swift, Ultralytics, MMEngine, Keras, etc.

TurboDiffusion : accélération de 100 à 200 fois pour les modèles de diffusion vidéo.

Bases de l'IA : architecture GPU, programmation CUDA, fondamentaux des grands modèles et connaissances sur les agents IA

[ICML2025] SpargeAttention : Une attention creuse sans entraînement qui accélère l'inférence de tout modèle.

Tensorlake est un runtime serverless pour les sandboxes et le déploiement d'applications d'agents en arrière-plan

Système de fichiers AI-Native et Cloud-Native : une couche sémantique de fichiers haute performance pour le stockage objet cloud, intégrée avec un cache haute vitesse. Projet CNCF Sandbox.

Tutoriel HPC, incluant la communication collective (MPI, NCCL), la programmation CUDA, la vectorisation SIMD, la communication RDMA, etc.

Couche de récupération pour les systèmes IA de production. Recherche ultra‑rapide (<10 ms) sans bases de données vectorielles. Conçue pour le browser, le edge, l'on‑device et le cloud.