研究者发布8B连续流语言模型Lafa

研究者发布Lafa（Large flow language model），一个扩展到8B参数的块式连续流语言模型。该模型前缀使用因果注意力、块内使用双向异步流，可基于预训练自回归模型改造训练。 据发布方称，Lafa以数据高效的方式扩展至8B参数，实现2.54倍吞吐。上述吞吐数据为发布方说法，尚未经独立验证。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。