Michael-A-Kuykendall/shimmy
@Michael-A-Kuykendall⚡ Moteur d'inférence WebGPU en pur Rust — compatible avec l'API OpenAI, natif GGUF, fonctionne sur n'importe quel GPU. Pas de Python. Pas de llama.cpp. Binaire unique.
Étoiles
5 816
Bifurcations
561
Langage
Rust
Licence
Apache-2.0
Dernier push
il y a 2 semaines
Intel associée (0)
Aucune intel associée pour le moment
Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.