摘要
大语言模型在心理健康支持方面展现出潜力,但仅当评估作为可操作的控制信号而非被动指标时,治疗效果才能提升。本文提出一个框架,将治疗回应生成 formulate 为由多维人类对齐评估驱动的决策细化问题。第一阶段引入 TheraJudge,一种基于人类标注数据通过偏好优化训练的开源治疗评估器;第二阶段引入 TheraAgent,通过协调批评家、教练和治疗师角色,将评估信号转化为针对性的回应修订。实验表明,该方法显著提升了人类评分的治疗质量,特别是在安全性和共情等关键维度上实现了低质量回应的有效修正。
AI 推荐理由
论文核心在于通过评估信号驱动的多智能体协作反思与修正机制,实现模型输出的自我改进与对齐。
研究机构
York University, Ontario, Canada
Vector Institute, Ontario, Canada
Connected Minds, Ontario, Canada
Dalhousie University, Nova Scotia, Canada
论文信息