跳到正文
热点事件持续更新

CAFÉ:机器遗忘的因果黑盒测试方法

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

研究者 Anna Mazhar 与 Sainyam Galhotra 提出 CAFÉ,一种机器遗忘的黑盒测试方法:只使用已部署模型的预测结果,对目标特征做干预并把变化传播到其下游特征,再检查预测是否仍对该特征有响应。 在两个因果网络基准、四种遗忘方法上,CAFÉ 对残余影响排序的成对准确率为 0.92–0.93,而现有检查最高为 0.71。在真实人口普查数据上,CAFÉ 还发现了能通过重训练、却未被直接输入检查察觉的残余影响。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月9日
  1. arXiv cs.SE
    CAFÉ:机器遗忘的因果黑盒测试方法

    研究者提出 CAFÉ,一种仅依赖已部署模型预测结果的机器遗忘黑盒测试方法,通过干预特征并将变化传播至下游特征,检测预测是否仍受目标特征影响。在两个因果网络基准、四种遗忘方法上,CAFÉ 以 0.92–0.93 的成对准确率对残余影响排序,现有检查最高仅 0.71。在真实人口普查数据上,CAFÉ 还发现了能通过重训练却未被直接输入检查察觉的残余影响。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。