vitoplantamura/OnnxStream

Bibliothèque d'inférence légère pour fichiers ONNX, écrite en C++. Elle peut exécuter Stable Diffusion XL 1.0 sur un RPI Zero 2 (ou avec 298 Mo de RAM), ainsi que Mistral 7B sur ordinateurs et serveurs. Supporte ARM, x86, WASM et RISC-V. Accélérée par XNNPACK. Bindings Python, C# et JS (WASM) disponibles.

↗ Ouvrir sur GitHub

Étoiles

2 086

Bifurcations

Langage

C++

Licence

NOASSERTION

Dernier push

il y a 3 mois

C++machine-learning stable-diffusion whisper raspberry-pi wasm webassembly onnx llama yolov8 mistral tinyml

Aucune intel associée pour le moment

Ce dépôt n'est encore apparu dans aucune des sources que le radar suit. Le collecteur suit un calendrier — revenez une fois qu'il couvre ce dépôt.

Intel associée (0)

Aucune intel associée pour le moment