Audio-Language Models Data Deduplication Chain-of-Thought Post-Training Reasoning Dataset
摘要

大型音频 - 语言模型在复杂音频推理任务上仍表现不足,而后训练效果依赖于数据质量。现有数据集存在严重冗余,限制了多样性与训练效率。为此,本文提出一种感知冗余的数据构建流程:首先基于声学相似度进行去重以提升语料多样性;其次将标注统一为多选格式,并利用 Qwen3-30B 生成思维链推理依据。基于此流程构建了 AudioDER 数据集,包含约 19.1 万条涵盖声音、语音和音乐的样本。实验表明,在该数据集上进行后训练显著提升了模型在多个音频推理基准上的性能。

AI 推荐理由

论文核心构建推理数据集,利用思维链提升模型复杂音频推理能力。

研究机构
College of Computer Science and Technology, National University of Defense Technology Korea Advanced Institute of Science and Technology (KAIST), Korea
论文信息
作者 Hui Geng, Yi Su, Han Yin, Tianjiao Wan, Qisheng Xu et al.
发布日期 2026-06-12
arXiv ID 2606.14591
相关性评分 9/10 (高度相关)