clinical reasoning LLM evaluation rubric-based assessment medical AI
摘要

针对多项选择医学基准趋于饱和的现状,本文提出了一套由临床专家编写的困难评估数据集,涵盖四个专科的临床场景,并配有原子化、加权且互斥穷尽(MECE)的评分标准。研究评估了三种前沿模型,发现其存在临床优先级倒置现象:关键高危标准的通过率显著低于低风险标准,过半关键指标无模型达成。此外,验证了 LLM 自动评分器与专家标签的高度一致性。该工作旨在建立可扩展的临床推理评估流程。

AI 推荐理由

论文核心评估 LLM 在专家级临床推理任务中的表现,直接针对推理能力。

研究机构
Prime Analytics Consulting Limited Talbert House; Thomas More University MAKZ
论文信息
作者 Samiha A. Ismail, Fan X. Chen, Ali Merali
发布日期 2026-07-02
arXiv ID 2607.02175
相关性评分 9/10 (高度相关)