vitoplantamura/OnnxStream

@vitoplantamura

輕量級 ONNX 檔案推論庫，以 C++ 編寫。它能在 RPI Zero 2 上（或在 298MB 記憶體內）執行 Stable Diffusion XL 1.0，也能在桌機和伺服器上執行 Mistral 7B。支援 ARM、x86、WASM、RISC-V。由 XNNPACK 加速。提供 Python、C# 與 JS(WASM) 綁定。

↗ 在 GitHub 開啟

星數

2,086

Fork 數

99

語言

C++

授權

NOASSERTION

最後推送

3 個月前

C++machine-learning stable-diffusion whisper raspberry-pi wasm webassembly onnx llama yolov8 mistral tinyml

還沒有相關情報

radar 追蹤的來源裡還沒有出現過這個 repo。收集器照排程執行——等它涵蓋到這個 repo 再回來看看。