跳到正文
Google Developers Blog·· 23 小时前精选AI 评分67

Google Play services 中的 LiteRT 迎来升级:GPU 推理提速约 1.4 倍、应用体积减少约 8 MB

Smaller apps and faster GPU inference with LiteRT in Google Play services

AI 导读

Google 为 Google Play services 中的端侧推理运行时 LiteRT 推出升级,基于 ML Drift 的 GPU 推理比旧版 GPU delegate 快约 1.4 倍,并通过新的 CompiledModel API 提供。

推荐理由

原文给出了 GPU 推理提速幅度、APK 体积变化和迁移方式,读者可据此判断端侧推理的接入成本。

来源:Google Developers Blog · developers.googleblog.com