摘要
人类具备理解细粒度人际关系的先天能力,这对日常社交至关重要。尽管此类推理本质上是多模态的,但现有研究尚未充分探索。为此,本文提出 PIVOTS,这是首个基于 Social-IQ 2.0 和 YouTube 数据构建的基准,旨在评估多模态大语言模型(MLLMs)预测基于心理学研究的双向人际关系维度的能力。该基准包含辅助任务,以评估模型识别和利用关键视觉线索的能力。研究评估了专有及开源 MLLMs,并通过消融实验分析了视觉模态及对话中显式社会角色信息的影响,同时考察了联合与成对预测设置对评分的提升作用。
AI 推荐理由
论文核心评估多模态大模型在细粒度人际关系上的推理能力,属于推理领域的基准研究。
研究机构
Sun Yat-sen University
University of Michigan
Tsinghua University
论文信息