Google Developers Blog·· 23 小时前精选AI 评分67
Google Play services 中的 LiteRT 迎来升级:GPU 推理提速约 1.4 倍、应用体积减少约 8 MB
Smaller apps and faster GPU inference with LiteRT in Google Play services
AI 导读
Google 为 Google Play services 中的端侧推理运行时 LiteRT 推出升级,基于 ML Drift 的 GPU 推理比旧版 GPU delegate 快约 1.4 倍,并通过新的 CompiledModel API 提供。
推荐理由
原文给出了 GPU 推理提速幅度、APK 体积变化和迁移方式,读者可据此判断端侧推理的接入成本。
来源:Google Developers Blog · developers.googleblog.com