PackMonitor：通过解码时监控实现零包幻觉
PackMonitor 通过持续监控 LLM 解码过程并在生成安装命令时介入，将包幻觉率降至零。该方法包含 Context-Aware Parser、Package-Name Intervenor 和 DFA-Caching 机制，可扩展至数百万个包且开销可忽略。在五种主流 LLM 上的实验表明，PackMonitor 无需训练、即插即用，在保持低延迟推理和原有模型能力的同时消除包幻觉。
#安全/对齐
arXiv cs.SEAI 评分3939 arXiv cs.SEAI 评分3131 SoK：LLM 在源代码恢复中可靠吗？分类体系与实证评估
首个聚焦 LLM 辅助二进制到源代码恢复的 SoK 研究发布，提出以设计为中心的分类体系，并在 45,000 个测试样本上系统评估现有方法。样本覆盖四种标准架构与五种嵌入式架构、五种优化级别及符号剥离，从六个评估维度、七项关键指标展开。研究还消融了输入表示、上下文增强、模型规模、迭代与审查角色等设计选择的影响，并测试了四种成熟语言与两种遗留语言的同语言及跨语言恢复能力。
arXiv cs.SEAI 评分5454 研究：LLM 生成的回归测试可能固化代码缺陷
一项研究将 LLM 生成的回归测试应用于 SciPy、Qiskit 和 pandas 的 145 个已合并 PR，发现 8%-17% 的生成测试属于固化缺陷的 fault-enforcing 测试，而只有 2.4%-4.8% 能揭示缺陷。
arXiv cs.SEAI 评分2222 ObliVul：面向代码漏洞检测的告警条件化安全义务建模与双向反事实验证
ObliVul 是一个面向代码漏洞检测的告警条件化安全义务建模与双向反事实验证框架，针对静态分析产生的大量候选告警难以甄别的问题。
arXiv cs.SEAI 评分3131 LLM 代码生成中的过度自信失败问题研究
研究针对基于 LLM 的代码生成中"错误程序却表现出与正确程序相当的 token 级置信度"这一过度自信困境，在四个开源代码模型和三个基于执行的基准上展开分析。结果显示，现有不确定性信号仅提供部分且依赖模型的执行失败证据，过度自信在程序级和 token 级均持续存在，基于不确定性的选择无法稳定提升接受集准确率。指令微调会提高失败生成的确定性却不改善正确性判别，常见缓解手段也无法可靠解决该失败模式。
TechCrunch · AIAI 评分6262 Goodfire 推出内部激活监控，称以更低成本拦截失控 AI 智能体
Goodfire 发布一类监控工具，通过读取模型内部激活信号来发现 AI 智能体的风险行为，而非让另一个模型逐字审查输出，目前面向 Baseten 客户开放。
The Verge · AIAI 评分6262 Anthropic 推出 OSS Scanner，为开源项目提供免费 AI 安全扫描
Anthropic 推出名为 OSS Scanner 的免费服务，选择加入的开源项目可获得由其最强模型（包括 Claude Mythos）定期执行的安全扫描。该扫描报告完全由模型生成，不经人工复核或分诊，因此扫描更快更频繁，但报告也可能出错或无效。此前 AI 工具已帮助发现过影响几乎所有 Linux 发行版的开源漏洞，同时部分开源项目正疲于应对大量 AI 生成的漏洞报告。
极客公园AI 评分2222 造物 100#07：MUZIM L1 本地 AI 文件搜索、Lumeria 手机皮肤镜、immurok 指纹钥匙等新品
极客公园「造物 100」第 7 期推荐四款新品：MUZIM L1 桌面数据坞搭载 OpenSoul 文件系统与 Vibe Search，支持 24TB 存储、按语义搜到视频某一帧。
GitHub Blog · AI & ML精选AI 评分6262 GitHub 推出基于 ModernBERT 的密钥检测模型，扩展 push protection
GitHub 发布与 Microsoft Applied Sciences 联合微调的 ModernBERT 分类器，把 push protection 扩展到无固定格式的密钥，可在 2 毫秒内评估一批候选密钥，据称能把可拦截的密钥数量提升一倍以上。
推荐理由：GitHub 用九个季度数据说明密钥泄露与人工修复的失衡，并给出把检测前移到 push 环节的模型方案。
GitHub Copilot Changelog精选AI 评分6060 GitHub 推出专用模型检测泄露密钥
GitHub 公布专用于密钥检测的微调模型，可读取上下文代码识别凭据，包括没有固定 token 格式的密码，且不生成代码或文本。该模型已自动升级现有 AI 检测密码告警，AI 推送保护进入私有预览，Copilot CLI 与 Copilot App 的 /security-review 命令也将加入密钥分类器检查。
推荐理由：GitHub 把微调后的密钥检测模型接入告警、推送保护和 Copilot 安全审查，可据此了解各功能的开放范围与计费方式。
Google DeepMind精选AI 评分6666 Google DeepMind 推出 SynthID Bio，为 AI 生成蛋白质嵌入可验证水印
Google DeepMind 发布 SynthID Bio，将水印技术引入合成生物学，把不可感知的签名直接嵌入生物代码，使水印不仅能在数字模型上验证，也能在合成出的实体蛋白质上验证，同时保持其生物功能。
推荐理由：SynthID 水印从图像扩展到合成生物，读者可了解其在 DNA 合成筛查与数据库标注上的验证思路。
GitHub Blog · AI & ML精选AI 评分6262 GitHub Security Lab 发布 Fuzzing Taskflow 智能体，自动完成 C/C++ 模糊测试全流程
GitHub Security Lab 发布 Fuzzing Taskflow，一个面向 C/C++ 项目的自主模糊测试流水线，只需指向一个 GitHub 仓库，它就会识别入口点、分析构建系统、编写 harness、运行 AFL++、读取覆盖率报告并改进 harness，最后对每个崩溃做定级并生成漏洞报告。
推荐理由：GitHub Security Lab 把模糊测试的 harness 编写、覆盖率追踪与崩溃定级交给 LLM 智能体，读者可据此判断自动化安全测试的边界。
Zed Blog精选AI 评分6262 Zed 为智能体面板加入默认沙箱
Zed 在 1.14 版本起为智能体面板的终端和 fetch 工具默认启用沙箱，由操作系统强制执行，默认禁止在项目目录外写入、写入 .git 以及发起网络请求，智能体需要时可申请临时提权并说明理由。
推荐理由：Zed 官方说明智能体沙箱的默认规则、权限升级流程与实现方式，并给出沙箱边界之外的攻击面清单。