Hugging Face Daily Papers·· 7 天前精选AI 评分55
SimpleLoRIF：用梯度对齐追踪微调数据导致的安全退化
Follow the Gradient: Tracing Safety Degradation Back to Training Data
AI 导读
研究团队提出 SimpleLoRIF，一种基于梯度嵌入的可扩展方法，用于识别指令微调中与不安全行为梯度对齐的样本。
推荐理由
论文给出可扩展的梯度过滤方法，并开源 SafeTulu 数据集，读者可据此了解指令微调中隐性安全退化的来源与处理路径。
来源：Hugging Face Daily Papers · huggingface.co