ascend

Monitoramento de processos de GPU e aceleradores para AMD, Apple, Huawei, Intel, NVIDIA e Qualcomm.

Um gerenciador de cluster de GPU para servir modelos de IA de alto desempenho (vLLM, SGLang) e instâncias de GPU acessíveis via SSH sob demanda.

Compartilhamento heterogêneo de GPU no Kubernetes.

Plugin de hardware mantido pela comunidade para vLLM em Ascend.

Plataforma de IA de código aberto cubestudio: solução completa nativa em nuvem para aprendizado de máquina, aprendizado profundo e grandes modelos (LLMs). Inclui MaaS, MLOps, orquestração de pipeline, treinamento distribuído, busca de hiperparâmetros, inferência, virtualização VGPU, computação de borda, rotulagem automatizada, ajuste fino (SFT) de modelos como deepseek, suporte a inferência multi-máquina (vllm/ollama/mindie), bases de conhecimento privadas, marketplace de modelos e suporte a hardware heterogêneo (Ascend, Cambricon, etc.) com suporte a RDMA/RoCE.

Um framework de implantação de IA de alto desempenho e fácil de usar.

Um framework Pytorch leve para modelos de recomendação, fácil de usar e fácil de estender.

Adaptador Ascend PyTorch (torch_npu). Espelho de https://gitcode.com/Ascend/pytorch

um detector de objetos sem âncora em tempo real na borda com desempenho razoável