Hugging Face Daily Papers·· 2 天前精选AI 评分60
AKV 提出面向智能体的缓存工程方案
Cache Engineering for Agents
AI 导读
论文提出 cache engineering，让 LLM 智能体在不修改轨迹、不重新预填充已保留上下文的前提下直接控制活跃 KV cache，通过 drop 和 repos 两种操作实现。
推荐理由
论文提出不改轨迹、不重预填充的 KV cache 管理方案，并给出配套服务引擎与吞吐数据。
来源：Hugging Face Daily Papers · huggingface.co