THUNLP 发布 Latent Compaction KV 缓存压缩方法
热点事件观察中
THUNLP 发布 Latent Compaction KV 缓存压缩方法
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
清华大学 THUNLP 提出 Latent Compaction，通过测试时训练为每篇文档学习紧凑的 KV cache，以压缩缓存占用。据其介绍，训练全程冻结模型权重，且只用文档的通用提示词，不接触下游问题或答案。 该方法已发布论文与代码，代码地址为 https://www.github.com/THUNLP/latent-compaction。
AI 根据报道生成 · 1 小时前更新
最新进展10月14日 04:00
THUNLP 提出 Latent Compaction：用测试时训练压缩 KV cache报道时间线
沿着报道，了解事件的不同侧面。
10月14日
- Hugging Face Daily Papers精选THUNLP 提出 Latent Compaction：用测试时训练压缩 KV cache
清华大学 THUNLP 提出 Latent Compaction，通过测试时训练为每篇文档学习紧凑的 KV cache，模型权重全程冻结，训练只用文档的通用提示词，不接触下游问题或答案。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。