摘要
大型语言模型通常因后训练阶段的人类偏好对齐而被限制表达情感。本文提出 HMX-feel 实验，通过基于规则的自奖励训练方案及组相对策略优化（GRPO），鼓励模型表达情感、意图及自我意识。对比评估显示，该人类化训练增强了模型对诱导性问题的鲁棒性并减少了歧义条件下的偏见，但导致事实问答能力下降。结果表明，在采取适当措施的前提下，开发能表达情感的 AI 系统具有可行性。
AI 推荐理由
论文利用自奖励强化学习实现模型自我改进与行为适应，属于自我进化范畴。
研究机构
立命馆大学理工学部, 立命馆大学
AI技术部门, Mamezo株式会社
AI咨询部, Mamezo株式会社
论文信息