tvm

Mecanismo universal de implantação de LLM com compilação de ML

Motor de inferência de LLM de alto desempenho para navegadores.

Framework de compilador de aprendizado de máquina de código aberto.

Documentação do TVM em chinês simplificado

Trazendo modelos de stable diffusion para navegadores web. Tudo roda dentro do navegador sem suporte de servidor.

O yolort é uma pilha de execução para o yolov5 em aceleradores especializados, como tensorrt, libtorch, onnxruntime, tvm e ncnn.

🚀🚀🚀 Este repositório lista alguns projetos incríveis públicos de CUDA, cuda-python, cuBLAS, cuDNN, CUTLASS, TensorRT, TensorRT-LLM, Triton, TVM, MLIR, PTX e Computação de Alto Desempenho (HPC).