tinyml

Sistemas de Machine Learning

Biblioteca de inferência leve para arquivos ONNX, escrita em C++. Pode executar Stable Diffusion XL 1.0 em um RPI Zero 2 (ou em 298 MB de RAM), bem como Mistral 7B em desktops e servidores. Suporta ARM, x86, WASM e RISC-V. Acelerado por XNNPACK. Bindings para Python, C# e JS(WASM) disponíveis.

Uma biblioteca leve e baseada apenas em cabeçalhos para usar modelos Keras (TensorFlow) em C++.

Z80-μLM é um modelo de linguagem quantizado de 2 bits pequeno o suficiente para rodar em um processador Z80 de 8 bits. Treine modelos conversacionais em Python, exporte-os como binários .COM para CP/M e converse com seu computador antigo.

Esta é uma lista de artigos e projetos interessantes sobre TinyML.

A Biblioteca de Aprendizagem por Reforço Profundo Mais Rápida

[NeurIPS 2020] MCUNet: Tiny Deep Learning on IoT Devices; [NeurIPS 2021] MCUNetV2: Memory-Efficient Patch-based Inference for Tiny Deep Learning; [NeurIPS 2022] MCUNetV3: On-Device Training Under 256KB Memory

Mecanismo de inferência de Machine Learning para microcontroladores e dispositivos embarcados

[NeurIPS 2020] MCUNet: Deep Learning compacto em dispositivos IoT; [NeurIPS 2021] MCUNetV2: Inferência baseada em patches com eficiência de memória para Deep Learning compacto

Biblioteca de deep learning TinyML, compilador e framework de inferência independentes de fornecedor para microcomputadores e microcontroladores.