摘要
计算机操作智能体虽日益强大,但其界面交互层往往脆弱,依赖截图坐标点击且缺乏验证。本文提出 Tactile,一种开源工具层,通过整合系统无障碍语义、OCR 文本及视觉区域,将异构 UI 证据转化为可执行的动作状态。该机制构建了“观察 - 定位 - 执行 - 验证”闭环,优先采用原生语义动作,显著提升了多模型在桌面任务中的成功率。研究表明,可靠的计算机操作不仅需要更强的模型,更需具备语义化、可验证的执行基底。
AI 推荐理由
论文提出 Tactile 工具层,核心解决 Agent 使用桌面软件时的技能执行与交互可靠性问题。
研究机构
上海交通大学
论文信息