摘要
本文提出 Nanbeige4.2-3B,一种拥有 30 亿非嵌入参数的紧凑通用 Agent 模型。该模型在代码代理、办公代理及复杂工具使用任务中表现优异,同时在数学、编程和科学推理方面保持强劲竞争力。模型采用循环 Transformer 架构从头预训练,并通过扩大可执行环境与任务资产多样性构建 SFT 数据。其强化学习流程结合混合模式 RLHF、长度控制推理 RL 及基于结果与过程的 Agent RL,有效提升了模型质量并稳定了长程训练。评估显示,其在多种 Agent 基准测试中优于更大规模模型。
AI 推荐理由
论文核心聚焦于紧凑模型在代码、办公及复杂工具使用等 Agent 技能上的突破与评估。
研究机构
Nanbeige LLM Lab, Boss Zhipin
论文信息