Multimodal Reasoning Structured Pruning Chain-of-Thought Model Compression
摘要

视觉 - 语言模型依赖思维链解决复杂任务,但参数量大导致部署困难。现有结构化剪枝方法因忽略推理一致性中的稀疏枢纽令牌及跨模态激活分布差异,难以保持推理精度。本文提出 MuCRASP 框架,在全局参数预算下,针对推理关键组件进行剪枝,同时保持跨模态对齐并考量层敏感度。实验表明,该方法在高压缩率下仍能显著优于基线,有效维持物理推理等任务的质量与一致性。

AI 推荐理由

论文核心针对多模态思维链(CoT)推理,提出保留推理关键组件的剪枝框架。

研究机构
Indian Institute of Technology (IIT), Kharagpur
论文信息
作者 Aritra Dutta, Somak Aditya
发布日期 2026-05-25
arXiv ID 2605.25842
相关性评分 9/10 (高度相关)