ai-infra

Runtime de Sandbox seguro, rápido e extensível para agentes de IA.

Uma plataforma full-stack de Red Teaming para IA que protege ecossistemas de IA por meio de varredura de agentes, habilidades, MCP, infraestrutura de IA e avaliação de jailbreak de LLM.

🚀 Awesome System for Machine Learning ⚡️ Artigos sobre sistemas de IA e práticas da indústria. ⚡️ Sistemas para Machine Learning, LLM (Large Language Model), GenAI (Generative AI). 🍻 OSDI, NSDI, SIGCOMM, SoCC, MLSys, etc. 🗃️ Llama3, Mistral, etc. 🧑‍💻 Tutoriais em vídeo.

SwanLab - uma ferramenta de código aberto com design moderno para rastreamento e visualização de treinamento de IA. Suporta uso em nuvem ou auto-hospedado. Integrado com PyTorch, Transformers, verl, LLaMA Factory, ms-swift, Ultralytics, MMEngine, Keras, etc.

TurboDiffusion: aceleração de 100–200× para modelos de difusão de vídeo

Fundamentos de IA - Arquitetura de GPU, programação CUDA, fundamentos de grandes modelos e conhecimentos relacionados a agentes de IA.

[ICML2025] SpargeAttention: Uma atenção esparsa livre de treinamento que acelera a inferência de qualquer modelo.

Tensorlake é um runtime serverless para sandboxes e implantação de aplicações de agentes em segundo plano.

FS nativo de IA e nativo de nuvem: Uma camada semântica de arquivos de alto desempenho para armazenamento de objetos em nuvem, integrada com cache de alta velocidade. Projeto Sandbox da CNCF.

Tutorial de HPC, incluindo comunicação coletiva (MPI, NCCL), programação CUDA, vetorização SIMD, comunicação RDMA, etc.

A camada de recuperação para sistemas de IA em produção. Pesquisa ultrarrápida (<10ms) sem bancos de dados vetoriais. Criado para navegador, edge, dispositivos e nuvem.