RobotValues：当人类价值观冲突时的家庭机器人评估

家庭机器人通常仅基于任务完成度进行评估，但日常环境中常存在价值观冲突场景，要求机器人优先考虑自主性或社会适宜性等而非单纯的任务成功。本文提出 RobotValues 基准，包含 1 万个价值冲突场景，用于评估家庭机器人规划器。研究发现，视觉语言模型表现出默认的价值偏好（如安全），但在被指令优先处理冲突价值观时，往往无法覆盖默认行为，错误率高达 80%。结果表明，机器人评估应涵盖其在价值观冲突下的选择能力。