量子位· 量子位的朋友们·2026-10-19 13:22· 12 小时前AI 评分55

商汤大装置谈日均 6 万亿 Token 背后的异构推理实践

日均6万亿Token服务背后，商汤大装置如何提升推理效能？

AI 导读

商汤大装置副总裁、CTO 宣善明在第十届 CSDI Summit 上介绍，商汤大装置平台日均 Token 服务量已达 6 万亿，预计 2026 年全年 Token 服务规模增长 25 倍，第四季度达到日均 10 万亿 Token。

来源：量子位 · qbitai.com