vitoplantamura/OnnxStream

Biblioteca ligera de inferencia para archivos ONNX, escrita en C++. Puede ejecutar Stable Diffusion XL 1.0 en una RPI Zero 2 (o en 298 MB de RAM) y también Mistral 7B en ordenadores de sobremesa y servidores. Compatible con ARM, x86, WASM y RISC-V. Acelerado por XNNPACK. Bindings disponibles para Python, C# y JS(WASM).

↗ Abrir en GitHub

Estrellas

2086

Bifurcaciones

Lenguaje

C++

Licencia

NOASSERTION

Último push

hace 3 meses

C++machine-learning stable-diffusion whisper raspberry-pi wasm webassembly onnx llama yolov8 mistral tinyml

Aún no hay intel relacionado

Este repo no ha aparecido en ninguna de las fuentes que rastrea el radar. El recopilador funciona con un horario — vuelve cuando lo haya cubierto.

Intel relacionado (0)

Aún no hay intel relacionado