Visual-to-Code Reinforcement Learning Code Generation Multimodal LLM
摘要

视觉到代码生成要求像素级对齐,仅靠监督微调难以实现。针对强化学习中奖励粗糙和探索停滞两大难题,本文提出 UniCoder 框架。首先引入符号属性对齐机制,利用辅助 LLM 解析代码属性以计算细粒度奖励;其次设计参考引导的代码优化策略,向低性能组注入真实轨迹以引导策略改进。实验表明,该 8B 模型在多个基准上超越开源基线,达到专有模型水平,确立了视觉代码合成的新范式。

AI 推荐理由

论文核心研究代码生成技能,通过 RL 提升多模态模型将视觉转为可执行代码的能力。

研究机构
The Chinese University of Hong Kong Shanghai Artificial Intelligence Laboratory
论文信息
作者 Yaozhi Zheng, Yilei Jiang, Manyuan Zhang, Yuxuan Wan, Kaituo Feng et al.
发布日期 2026-06-30
arXiv ID 2606.31732
相关性评分 9/10 (高度相关)