Hugging Face Daily Papers·· 1 天前精选AI 评分57
THUNLP 提出 Latent Compaction：用测试时训练压缩 KV cache
Latent Compaction with Test-Time Training
AI 导读
清华大学 THUNLP 提出 Latent Compaction，通过测试时训练为每篇文档学习紧凑的 KV cache，模型权重全程冻结，训练只用文档的通用提示词，不接触下游问题或答案。
推荐理由
论文提出把 KV cache 当作神经网络做测试时训练压缩，并给出 RULER 等基准上的对比数据与开源代码。
来源：Hugging Face Daily Papers · huggingface.co