Hugging Face Daily Papers·· 1 天前精选AI 评分58
Lafa：8B 参数连续流语言模型实现 2.54 倍吞吐
Large Flow Language Models
AI 导读
研究者提出 Lafa（Large flow language model），一个扩展到 8B 参数的块式连续流语言模型，前缀用因果注意力、块内用双向异步流，可基于预训练自回归模型改造训练。
推荐理由
论文给出 8B 连续流语言模型的训练与解码设计，并用吞吐对比说明它与自回归模型的差异。
来源：Hugging Face Daily Papers · huggingface.co