google-ai-edge

Soluções de ML multiplataforma e personalizáveis para mídia ao vivo e em streaming.

Uma galeria que apresenta casos de uso de ML/GenAI executados no dispositivo, permitindo testar e utilizar modelos localmente.

LiteRT-LM é o framework de inferência de alto desempenho, pronto para produção e de código aberto do Google para implantar Grandes Modelos de Linguagem em dispositivos de borda.

LiteRT, sucessor do TensorFlow Lite, é o framework do Google para execução de ML e GenAI de alto desempenho em dispositivos de borda, por meio de conversão, runtime e otimização eficientes.

Um visualizador e depurador de grafos de modelos moderno

Suporta conversão de modelos PyTorch com o LiteRT.