spatiotemporal reasoning 4D representation surgical AI MLLM agent training-free
摘要

时空推理是人工智能在软组织手术中的关键能力。针对手术场景的空间复杂性,本文提出一种基于显式 4D 表示的框架,赋予手术代理时空工具,使其能将自然语言推理锚定于时间与三维空间。通过整合点追踪、深度估计与分割模型,构建具有一致语义的 4D 模型。多模态大语言模型(MLLM)作为代理,直接利用该 4D 衍生的工具(如轨迹)进行推理,无需微调。实验表明,该方法显著提升了时空理解与 4D 接地能力,证明了无需额外训练即可组装出时空智能系统。

AI 推荐理由

论文核心在于利用 4D 表示增强 MLLM 的时空推理能力,实现无需训练的代理推理。

研究机构
Computer Aided Medical Procedures, TU Munich, Munich, Germany TUMai, Munich, Germany Hospital of the LMU Munich, Ludwig-Maximilians-Universität (LMU), Munich, Germany Munich Center for Machine Learning, Munich, Germany
论文信息
作者 Maximilian Fehrentz, Nicolas Stellwag, Robert Wiebe, Nicole Thorisch, Fabian Grob et al.
发布日期 2026-04-01
arXiv ID 2604.00867
相关性评分 9/10 (高度相关)