跳到正文
热点事件持续更新

研究:LLM审计器更易采信虚假安全保证

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

一项由 ZhiHong Liu、Shuyao Gao 发表的研究发现,LLM 漏洞审计器对静态分析证据的采信不对称:真实证据只带来 +0.02 的准确率提升,而虚假的“安全”保证使真实漏洞检出率最多下降 19 个百分点;虚假告警则未显著降低准确率,且更多被模型质疑。 研究构建 C/C++ 过程内分析器,在 PrimeVul 的 916 对函数上以六种证据条件测试 11 个模型配置,共完成 16,572 次审计。 在独立调用中逐条核验并展示被驳斥的声明,可在虚假保证条件下将准确率提升 12 个百分点(p=0.002)。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. arXiv cs.SE
    研究发现 LLM 漏洞审计器对静态分析证据存在非对称采信

    研究构建 C/C++ 过程内分析器,在 PrimeVul 的 916 对函数上以六种证据条件测试 11 个模型配置、共 16,572 次审计。真实证据仅带来 +0.02 的准确率提升,而虚假保证使真实漏洞检出率最多下降 19 个百分点,虚假告警则未显著降低准确率且更多被质疑。在独立调用中逐条核验并展示被驳斥的声明,可在虚假保证下将准确率提升 12 个百分点(p=0.002)。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。