跳到正文
PEFT Releases· BenjaminBossan·· 2025-11-13AI 评分34

PEFT 0.18.0 发布:新增 RoAd、ALoRA、Arrow、WaveFT、DeLoRA、OSF 等方法

0.18.0: RoAd, ALoRA, Arrow, WaveFT, DeLoRA, OSF, and more

AI 导读

PEFT 发布 0.18.0,新增 RoAd、ALoRA、Arrow、WaveFT、DeLoRA、OSF 六种微调方法。RoAd 通过逐元素乘法学习 2D 旋转矩阵,是除 LoRA 外唯一支持混合 adapter 批次的 PEFT 方法;ALoRA 可按 token 序列选择性启用 LoRA 并复用 KV cache。

来源:PEFT Releases · github.com