资源受限代理语言模型的分层提示域控制与学习

针对大模型在代理系统中面临的内存、延迟及成本约束，本文提出一种分层控制与学习框架。该方法首先蒸馏紧凑模型以学习输出模式，随后通过预言机 - 控制器循环进行在线监督。控制器监控协议有效性，将累积历史投影至可行的提示域内，并在发生漂移时触发轻量级微调。研究形式化了提示域可行性与注意力饱和机制，强调控制有效提示状态而非依赖名义上下文长度，显著提升了部署的可靠性与成本效率。