PACE：线性注意力循环状态的四比特量化器

论文作者提出 PACE，一种针对线性注意力模型循环状态的事后四比特量化器，无需微调即可降低显存占用。 PACE 的做法是每隔若干生成 token 才舍入一次，并按列共享量化尺度，以此降低量化误差。报道未给出具体的误差或显存下降数值。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。