摘要
推理驱动的多模态嵌入虽性能优异，但面临自回归思维链（CoT）计算成本高及依赖标注质量两大局限。本文提出 LaME，将面向嵌入的潜在推理构建为弱监督信息瓶颈问题。该方法利用可学习的推理令牌作为固定容量瓶颈，在单次前向传播中完成推理，并通过两阶段训练解耦对比与自回归目标，消除对 CoT 标注的依赖。实验表明，LaME 在保持竞争力的同时，推理速度比显式 CoT 快 60 倍。
AI 推荐理由
论文核心提出潜在空间推理新范式，解决 CoT 推理成本高问题，属推理机制研究。
研究机构
中国科学技术大学
夸父科技
浙江大学
清华大学
论文信息