摘要
尽管自然语言是大语言模型的默认媒介,但其有限的表达能力构成了复杂问题解决的瓶颈。本文提出,通过先进的语言表征塑造图式是扩展 LLM 智能的关键前沿。研究认为,LLM 的知识激活与组织高度依赖于任务表征的语言结构复杂性。文章通过形式化论证及实证证据支持该观点:首先回顾了无需修改参数即可通过设计语言表征提升性能的方法;其次通过控制实验表明,同一任务的不同语言表征会导致模型性能及内部特征激活的显著差异,强调了语言表征设计的重要性。
AI 推荐理由
论文探讨语言表征对 LLM 知识激活与组织的影响,直接关联复杂问题解决与推理能力。
研究机构
香港科技大学
小米集团
东京大学
中国科学院
RIKEN先进智能项目中心
西安交通大学
论文信息