研究:LLM审计器更易采信虚假安全保证
热点事件持续更新
研究:LLM审计器更易采信虚假安全保证
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
一项由 ZhiHong Liu、Shuyao Gao 发表的研究发现,LLM 漏洞审计器对静态分析证据的采信不对称:真实证据只带来 +0.02 的准确率提升,而虚假的“安全”保证使真实漏洞检出率最多下降 19 个百分点;虚假告警则未显著降低准确率,且更多被模型质疑。 研究构建 C/C++ 过程内分析器,在 PrimeVul 的 916 对函数上以六种证据条件测试 11 个模型配置,共完成 16,572 次审计。 在独立调用中逐条核验并展示被驳斥的声明,可在虚假保证条件下将准确率提升 12 个百分点(p=0.002)。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 12:00
研究发现 LLM 漏洞审计器对静态分析证据存在非对称采信报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- arXiv cs.SE研究发现 LLM 漏洞审计器对静态分析证据存在非对称采信
研究构建 C/C++ 过程内分析器,在 PrimeVul 的 916 对函数上以六种证据条件测试 11 个模型配置、共 16,572 次审计。真实证据仅带来 +0.02 的准确率提升,而虚假保证使真实漏洞检出率最多下降 19 个百分点,虚假告警则未显著降低准确率且更多被质疑。在独立调用中逐条核验并展示被驳斥的声明,可在虚假保证下将准确率提升 12 个百分点(p=0.002)。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。