arXiv cs.SE· Yitong Zhang, Shiteng Lu, Jia Li·· 1 小时前AI 评分58
语法约束解码可越狱 LLM 生成恶意代码，作者提出 CodeShield 防御
Grammar-Constrained Decoding Can Jailbreak LLMs into Generating Malicious Code
AI 导读
arXiv 论文提出 CodeSpear 攻击，发现仅施加良性的代码语法约束（GCD）即可越狱 LLM 生成恶意代码，在 10 个主流 LLM、4 个基准上平均将攻击成功率提升 30 个百分点以上。作者同时提出安全对齐方法 CodeShield，通过让模型在 GCD 下生成语义无害、结构多样的蜜罐代码来恢复安全性，并保留自然语言拒答与良性效用。该论文已被 ICSE 2027 直接接收。
来源：arXiv cs.SE · arxiv.org