google-ai-edge

跨平台、可定制的机器学习解决方案，适用于实时与流媒体

展示装置端机器学习/生成式 AI 用例的画廊，让用户可在本机尝试与使用模型

LiteRT-LM 是 Google 为边缘设备部署大型语言模型而打造的生产就绪、高性能、开源推理框架。

LiteRT，TensorFlow Lite 的继任者。是 Google 的 On-device 框架，通过高效转换、运行时与优化，将高性能 ML 与 GenAI 部署于边缘平台

一个现代化的模型图可视化工具与调试器

支持通过 LiteRT 进行 PyTorch 模型转换。