vitoplantamura/OnnxStream

C++로 작성된 ONNX 파일용 경량 추론 라이브러리. RPI Zero 2(또는 298MB RAM)에서 Stable Diffusion XL 1.0을 실행할 수 있으며 데스크톱과 서버에서 Mistral 7B도 실행할 수 있습니다. ARM, x86, WASM, RISC-V 지원. XNNPACK으로 가속화됨. Python, C#, JS(WASM) 바인딩 제공.

↗ GitHub에서 열기

스타

2,086

포크

언어

C++

라이선스

NOASSERTION

마지막 푸시

3개월 전

C++machine-learning stable-diffusion whisper raspberry-pi wasm webassembly onnx llama yolov8 mistral tinyml

아직 관련 인텔이 없습니다

이 저장소는 radar가 추적하는 어떤 소스에도 아직 등장하지 않았습니다. 수집기는 예약에 따라 실행됩니다——이 저장소를 다루게 되면 다시 확인하세요.

관련 인텔 (0)

아직 관련 인텔이 없습니다