跳到正文
Hugging Face Daily Papers·· 1 天前精选AI 评分60

Prox 提出无需校准数据的 MoE 通道选择方法

Channel Selection for Mixture-of-Experts Decoding Needs No Calibration Data

AI 导读

论文提出 Prox,用 top-k 通道选择替代校准阈值来加速 MoE 推理,无需校准数据。作者指出校准阈值无法固定读取量,为 18% 读取预算校准的阈值在实际基准上平均只读取 12.9%;在 13% 和 18% 预算下,同一打分器的 top-k 版本在 43 项对比中有 40 项持平或更好,并避免了 Gemma 4 上阈值导致的重复循环崩溃。

推荐理由

论文指出校准阈值既不能锁定读取预算也难稳定提升精度,并给出无需校准数据的 top-k 通道选择方案。

来源:Hugging Face Daily Papers · huggingface.co