摘要
本文提出 ToolFG,首个专为细粒度图像分类(FGIC)设计的工具集成多模态大语言框架。该框架使模型能在推理中自主灵活地调用外部工具,主动与图像交互并收集可验证的视觉线索,从而更可靠地区分高度相似类别。为赋予此能力,作者设计了基于 MCTS 引导的工具使用知识蒸馏机制,从高级专有模型中挖掘相关知识;同时提出模型 - 工具协同进化机制,联合优化工具集与使用策略,使其相互适应并专用于 FGIC 任务。实验证明了该方法的有效性。
AI 推荐理由
论文核心在于让 MLLM 自主使用外部工具进行细粒度分类,并提出了工具使用策略协同进化机制。
研究机构
Lancaster University
论文信息