Chain-of-Thought Medical QA Inference Efficiency LLM Optimization
摘要

目的:旨在通过避免不必要的推理同时保持准确性,提高大语言模型在医学问答中的效率。方法:提出选择性思维链(Selective CoT)策略,在推理阶段先预测问题是否需要推理,仅在必要时生成理由。在四个生物医学基准上评估了两种开源模型。结果:该策略减少了 13-45% 的推理时间和 8-47% 的令牌用量,且准确率损失极小。结论:Selective CoT 通过将推理努力与问题复杂度对齐,为医疗 QA 提供了一种简单、低成本且高效的解决方案。

AI 推荐理由

论文核心提出选择性思维链策略,动态决定何时进行推理,直接优化 LLM 的推理机制与效率。

研究机构
明尼苏达大学电气与计算机工程系,美国明尼阿波利斯
论文信息
作者 Zaifu Zhan, Min Zeng, Shuang Zhou, Yiran Song, Xiaoyi Chen et al.
发布日期 2026-02-23
arXiv ID 2602.20130
相关性评分 9/10 (高度相关)