面向大语言模型的自适应多分辨率程序性知识压缩

大型语言模型常利用可复用的自然语言技能来处理复杂任务，但重复注入完整技能文本会导致高昂的计算成本与延迟。现有压缩方法多针对事实性知识，难以适用于程序性技能。本文提出 SKIM，一种自适应多分辨率软令牌压缩框架。该方法根据技能复杂度动态生成不同数量的软令牌，在保留工作流逻辑依赖与工具协议的同时，实现轻量级离线压缩。实验表明，SKIM 能将技能长度压缩至原始的 30%-60%，且任务性能优于现有方法。