Effective context engineering for AI agents
Anthropic 发布工程文章称,智能体构建正进入上下文工程阶段,核心是在 LLM 有限的注意力预算内策划最小的高信号 token 集合。文章引用干草堆找针类基准研究指出上下文腐烂,即上下文窗口 token 数量增多时模型准确召回信息的能力下降,所有模型均存在;针对长时程任务给出压缩、结构化笔记和子智能体架构三种技术。
智能体工程的重心正从写好提示词转向把上下文当作有限资源来管理,高信号 token 的取舍决定长任务稳定性。
- 影响企业智能体任务越长,越需要预先设计上下文管理方案,成本集中在工程架构而非模型本身;扩大上下文窗口仍无法回避上下文腐烂和信息污染;三种技术可按任务特征组合,控制长任务 token 消耗。
- 参考值得盘点现有智能体的上下文构成,包括系统提示词、工具返回与历史消息,找出可压缩和可清除项;可考虑长时程任务优先做压缩,里程碑式任务用结构化笔记,研究类任务用子智能体架构。