跳到正文
arXiv cs.SE· Boqi Chen, Aren A. Babikian, Jos\'e Antonio Hern\'andez L\'opez·· 2 小时前AI 评分31

MeMoDecode:用元模型引导 LLM 解码,生成一致的 DSL

Metamodel-Guided LLM Decoding for Consistent DSL Generation

AI 导读

MeMoDecode 是一个在解码阶段同时约束 DSL 具体语法、抽象语法与良构性约束的框架,每当 LLM 生成完整的元模型概念时,就将当前输出增量映射为部分模型并验证其能否补全为一致实例。在 4 种 DSL 和 6 个 0.6B 至 70B 参数的开源模型上,其一致性平均比无约束解码高 23%、比语法约束解码高 8%,同时提升基准表现且仅带来适度运行时开销。

来源:arXiv cs.SE · arxiv.org