论文称JEPA可证明柏拉图表示定理
热点事件观察中
论文称JEPA可证明柏拉图表示定理
1 篇报道1 个报道来源2 天前更新
先了解这件事
AI 综述
一篇论文提出“柏拉图表示定理”,称当正样本对是同一场景的两次观测时,分别训练于任意数量模态的JEPA会学到仅相差一个旋转的相同表示。作者据此称,下一token预测相当于使用坏视角的JEPA。 作者给出的对齐缩放律称,在相同语料上达到同等对齐水平,好视角所需训练样本比下一token预测少42倍。这些是论文作者的论证与主张,报道未说明该定理或缩放律经独立验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月29日 04:00
论文用 JEPA 证明并改进柏拉图表示假说报道时间线
沿着报道,了解事件的不同侧面。
10月29日
- Hugging Face Daily Papers精选论文用 JEPA 证明并改进柏拉图表示假说
研究者提出柏拉图表示定理,证明在正样本对为同一场景的两次观测时,分别训练于任意数量模态的 JEPA 会学到仅相差一个旋转的相同表示。作者据此指出下一 token 预测相当于使用坏视角的 JEPA,并给出对齐的缩放律:在相同语料上达到同等对齐水平,好视角所需训练样本比下一 token 预测少 42 倍。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。