Medical LLM Safety Alignment Auditable Reasoning Ethics
摘要

大型语言模型在执照考试中表现优异,但因缺乏可审计的推理、安全及伦理对齐而受限。本文提出 SafeMed-R1,通过可追溯的临床信任信号管道训练,将推理实例与临床评分及编辑历史关联,并经由安全伦理监督及红队测试进行对齐。结果显示,该模型在临床基准测试中准确率达 79.6%,对抗性测试中风险最低,不安全输出减少 3%-5%。专家评估表明,其在用药安全性、指南一致性及临床实用性上优于住院医师,证明了临床审核监督对增强治理证据的有效性。

AI 推荐理由

论文强调可审计的推理过程与安全对齐,推理是核心评估维度。

研究机构
上海人工智能实验室,上海,中国
论文信息
作者 Chao Ding, Mouxiao Bian, Tianbin Li, Minjia Yuan, Yidong Jiang et al.
发布日期 2026-05-27
arXiv ID 2605.28338
相关性评分 8/10 (高度相关)