跳到正文
Hugging Face Daily Papers·· 2 天前AI 评分40

PACE:面向四比特循环状态的分段与通道对齐编码

PACE: Periodic and Channel-Aligned Encoding of Four-Bit Recurrent States

AI 导读

论文提出 PACE,一种针对线性注意力模型循环状态的事后四比特量化器,通过每隔若干生成 token 才舍入一次、并按列共享量化尺度来降低误差,无需微调即可降低显存占用。

来源:Hugging Face Daily Papers · huggingface.co