blackwell
Repositórios de código aberto acompanhados marcados com blackwell, ordenados por estrelas.
Tópicos relacionados
Tópicos que aparecem com frequência ao lado de blackwell no mesmo repositório.
Em ascensão recentemente
Repositórios criados nos últimos 90 dias e marcados com blackwell.
Nenhum repositório novo marcado com este tópico nos últimos 90 dias.
- #1
Um mecanismo de inferência e atendimento de alto rendimento e eficiente em memória para LLMs
★ 90.817+402Variação de estrelas nos últimos 7 dias - #2
SGLang é um framework de atendimento de alto desempenho para grandes modelos de linguagem e modelos multimodais.
★ 33.538+791Variação de estrelas nos últimos 7 dias - #3
O TensorRT LLM oferece aos usuários uma API Python fácil de usar para definir Large Language Models (LLMs) e suporta otimizações de ponta para realizar inferências de forma eficiente em GPUs NVIDIA. O TensorRT LLM também contém componentes para criar runtimes em Python e C++ que orquestram a execução da inferência de maneira performática.
★ 14.536+38Variação de estrelas nos últimos 7 dias - #4
OpenLake é um motor de armazenamento de alto desempenho para inferência eficiente de LLM e treinamento em GPU
★ 2.399+64Variação de estrelas nos últimos 7 dias - #5
TokenSpeed é um motor de inferência de LLM extremamente rápido.
★ 2.075+44Variação de estrelas nos últimos 7 dias - #6
Parallax é um framework de serviço de modelos distribuídos que permite criar seu próprio cluster de IA em qualquer lugar.
★ 1.372+4Variação de estrelas nos últimos 7 dias - #7
O frontend do cuDNN é o ponto de entrada moderno e de código aberto da NVIDIA para a biblioteca cuDNN e uma coleção crescente de kernels de código aberto de alto desempenho.
★ 931+13Variação de estrelas nos últimos 7 dias
