Mental Health Multi-Agent System Self-Reflection Human Alignment Preference Optimization
摘要

大语言模型在心理健康支持方面展现出潜力,但仅当评估作为可操作的控制信号而非被动指标时,治疗效果才能提升。本文提出一个框架,将治疗回应生成 formulate 为由多维人类对齐评估驱动的决策细化问题。第一阶段引入 TheraJudge,一种基于人类标注数据通过偏好优化训练的开源治疗评估器;第二阶段引入 TheraAgent,通过协调批评家、教练和治疗师角色,将评估信号转化为针对性的回应修订。实验表明,该方法显著提升了人类评分的治疗质量,特别是在安全性和共情等关键维度上实现了低质量回应的有效修正。

AI 推荐理由

论文核心在于通过评估信号驱动的多智能体协作反思与修正机制,实现模型输出的自我改进与对齐。

研究机构
York University, Ontario, Canada Vector Institute, Ontario, Canada Connected Minds, Ontario, Canada Dalhousie University, Nova Scotia, Canada
论文信息
作者 Mizanur Rahman, Abeer Badawi, Elahe Rahimi, Laleh Seyyed-Kalantari, Frank Rudzicz et al.
发布日期 2026-06-29
arXiv ID 2606.30887
相关性评分 9/10 (高度相关)