摘要
确保大语言模型（LLM）在现实部署中的安全性与语境适宜性仍是一大挑战。本文提出 SafeCtrl-RL，一种无需重训练或修改参数的推理时行为控制框架。该方法将对话生成建模为序列决策过程，利用强化学习代理根据上下文反馈动态选择提示调整策略。通过迭代优化抑制不安全行为，概念化为“推理时行为遗忘”。实验表明，该方法在多种 LLM 及不安全场景下显著提升安全性与回复质量，优于现有提示优化方法，并实现了良好的性能效率平衡。
AI 推荐理由
论文提出基于 RL 的推理时自适应行为控制，通过动态优化提示实现自我调整与安全抑制，符合自我进化范畴。
研究机构
School of Computing, Engineering and Building Environment, Edinburgh Napier University
论文信息