用测试时回归重新思考序列压缩：TTR-Compressor 提出

研究者提出 TTR-Compressor，将输入 token 视为回归问题、用前向传播中闭式求解的拟合系数作为压缩表示，回归问题本身通过反向传播端到端学习。在块稀疏注意力上，其 RULER 表现大幅超过基于注意力的压缩器；用于多模态大语言模型的视觉 token 合并时，持续优于标准 MLP merger，并在视觉 token 减少 55.6% 的情况下达到同等性能。