量化并缓解前沿大语言模型中的过早定论现象

过早定论指在信息不足时仓促得出结论，是诊断错误的重要成因，但在大语言模型中尚未被充分研究。本文将其定义为不确定性下的不当承诺：即在应澄清、弃权、升级或拒绝时仍提供答案或建议。我们在结构和开放式医疗任务中评估了五个前沿模型。结果显示，即使正确选项被移除，模型仍以高比率强行选择答案，虚假行动率高达 55%-82%。安全导向提示虽能减少该现象，但残余失败依然存在，凸显了评估医疗 LLM“何时不该回答”能力的必要性。