Michael-A-Kuykendall/shimmy
@Michael-A-Kuykendall⚡ Mecanismo de inferência WebGPU em Rust puro — compatível com a API da OpenAI, nativo em GGUF, roda em qualquer GPU. Sem Python. Sem llama.cpp. Binário único.
Estrelas
5.816
Bifurcações
561
Linguagem
Rust
Licença
Apache-2.0
Último push
há 2 semanas
Intel relacionado (0)
Ainda não há intel relacionado
Este repo ainda não apareceu em nenhuma das fontes que o radar rastreia. O coletor roda em um cronograma — volte quando ele cobrir este repo.