vitoplantamura/OnnxStream

@vitoplantamura

C++ で書かれた ONNX ファイル向けの軽量推論ライブラリ。RPI Zero 2（または 298MB の RAM）での Stable Diffusion XL 1.0 の実行や、デスクトップおよびサーバーでの Mistral 7B の実行が可能。ARM、x86、WASM、RISC-V をサポートし、XNNPACK で高速化。Python、C#、JS(WASM) バインディングを利用可能。

↗ GitHub で開く

スター

2,086

フォーク

99

言語

C++

ライセンス

NOASSERTION

最終プッシュ

3 か月前

C++machine-learning stable-diffusion whisper raspberry-pi wasm webassembly onnx llama yolov8 mistral tinyml

関連 Intel はまだありません

このリポジトリは radar が追跡するソースにまだ登場していません。コレクターはスケジュールで動いています——このリポジトリがカバーされたらまた見てください。