Hugging Face Daily Papers·· 3 天前精选AI 评分58
论文指出部分安全基准测的是标注定义而非检测能力
Policy Is Not Capability: Some Safety Benchmarks Measure Which Definition of "Unsafe" You Trained On
AI 导读
Hugging Face 论文《Policy Is Not Capability》指出，护栏基准分数主要反映标注策略而非检测能力。
推荐理由
论文用同一批提示词在两种标注定义下训练十个护栏模型，量化了基准分数被标签策略而非检测能力左右的程度。
来源：Hugging Face Daily Papers · huggingface.co