摘要
尽管端到端口语对话系统取得成功,但在多轮对话中保持严格的上下文一致性仍是挑战。现有研究常归因于模型遗忘对话历史,本文则指出关键瓶颈在于潜在上下文感知与主动遵循之间的差距。即使模型内部识别了相关历史话语,强大的参数先验往往在解码过程中掩盖这些信号。为此,我们提出一种适配音频的上下文感知解码(CAD)方法。该方法利用内部注意力机制隔离关键历史轮次,在推理阶段对比有无关键上下文的输出分布,直接放大多模态上下文信号。在 Audio MultiChallenge 基准上的评估显示,该方法显著提升了语义记忆和自我连贯性子任务的表现,成功实现了严格的上下文忠实遵循。
AI 推荐理由
论文核心解决对话历史管理与上下文一致性问题,提出解码机制增强记忆信号。
研究机构
ECE and IPA, Seoul National University, Seoul 08826, Korea
Department of AI, University of Seoul, Seoul 02504, Korea
论文信息