系统设计 · 07

AI 智能体的记忆和上下文管理

难度:中级阅读:8 分钟结果:可追溯的长期上下文

记忆不是把所有聊天记录塞进提示词,而是保存未来工作真正需要的事实、决定和任务。

区分来源和结论

原始文件不可修改,整理后的事实必须带来源和状态。新信息与旧信息冲突时,保留两边并标记需要确认。

按需加载

启动时只加载当前项目的摘要。详细材料通过搜索或工具按需读取,避免上下文越来越大。

定期压缩

长对话需要把旧过程压缩成决定、未完成任务、关键文件和风险,而不是保留所有闲聊。

记忆也需要测试

检查智能体是否能找到正确事实、是否混淆项目、是否引用过期内容。记忆错误和模型错误一样危险。