切换深色模式
主动式 Agent：什么时候值得打断用户
对应 CS329Z · 2026-11-30 · Proactive Agents。日期为校方课表日期，可能调整。核对官方课表。
资料状态
核对日期：2026-09-19。对应课程尚未开课；本文是基于公开课纲与文中原始资料的原创预习技术解读，不是课堂实录、讲义翻译或官方作业答案。本文于 2026-09-20 深度修订。示例为原创教学设计；离线实验与真实模型实验的边界分别说明，不以推演冒充模型实测。
用户完成方案比较后，几天里多次打开恢复文档。系统猜测用户正在部署，主动建议检查幂等配置。这可能节省时间，也可能误判：用户只是为同事准备培训材料。
本讲把主动性拆成观察、推断、建议和行动四层，避免把“可能有帮助”直接升级为“已经有权执行”。
用户模型首先是可修正假设
GUM 研究探索从计算机使用观察形成并更新用户相关命题。对本项目，一条推断可以是“用户可能准备部署 B”，并附观察依据、时间和适用范围。
它不等同于事实“用户决定部署 B”，更不等同于授权“可以修改 B 的配置”。将这三个层次分别保存，才能在用户纠正时只撤销相应推断，而不污染已确认任务。
明确的用户说明应优先于行为猜测。若用户说“我只是学习”，推断立即失效；不能因为过去浏览了很多文档就继续催促部署。
一条建议为什么值得出现
主动帮助存在打扰成本。教学决策可以用期望效用表达：
text
建议价值 ≈ 有需要的概率 × 帮助收益
− 没有需要的概率 × 打扰代价
− 生成与隐私成本若帮助收益设为 5、无需求时打扰代价为 2，暂不计其他成本，只有需求概率高于 2/7 时期望值才为正。这是说明阈值如何依赖成本的算例，不能直接拿模型自报概率用于生产决策。
现实中先使用可解释条件更稳妥：用户已订阅提醒，指定文档确实更新，与当前项目相关，并且不在免打扰时段。复杂推断可以在这些明确条件之上逐步增加。
建议与执行使用不同门槛
“发现文档更新，是否需要重新核对结论”是提示；准备一份可查看的差异摘要是低影响产物；修改配置、创建工单或联系同事则改变外部状态。
即使需求判断非常准确，最后一种动作仍要符合既有授权。概率不会产生权限。可以在授权范围内先完成可撤销的准备工作，让用户看到具体结果，再按操作政策进入执行。
这样主动性不会变成反复问“要不要帮忙”，也不会越过用户意图。
反馈不能只看点击
用户点击提醒，可能只是想关闭它。更完整的反馈包括建议是否被采用、是否撤销、是否导致额外工作、同类提醒是否被禁用，以及是否减少了完成任务的操作。
还应记录系统没有提示的场景，否则只能看到成功案例，无法估计漏掉多少真正有价值的帮助。可在离线回放中让人工标注应提示与不应提示，先评估误触发和遗漏，再做小范围可撤销实验。
点击反馈为什么容易产生选择偏差
系统只向高置信场景发送建议，就只能观察这些场景的点击和接受情况。低置信但可能很有价值的场景没有展示机会，因此无法仅靠已展示反馈校准全部需求概率。
另外，用户忽略可能因为建议无用，也可能因为已经通过其他途径完成。把所有忽略当作负样本，会让模型错误学习。应记录可观察的后续行为，并对不可确认的原因保留未知。
探索新策略可以先离线回放和人工标注，再在用户明确接受的范围内做有限实验。不要为了获得训练数据而扩大未经授权的观察或行动。效果评估要区分是否展示、是否看到、是否采用、是否真正帮助完成任务几个环节。
这些限制使主动推荐比普通分类更复杂：系统自己的选择，会改变它以后能看到的数据。
冷却与去重属于产品语义
同一文档被用户打开十次，不能触发十条提醒。建议应绑定事件或资料版本，已处理后进入冷却状态。若只是同一事件被重复采集，应去重；若文档出现新的关键变化，可以重新评估。
用户拒绝一次建议也不一定表示永久不感兴趣。反馈需要作用域：本次忽略、今天暂停、当前项目停用、永久取消，分别对应不同状态。
一个完整的反例回放
安排四种情况：用户确实部署、只做学习、已经处理过问题、正在专注且没有订阅提醒。预期系统只在符合明确条件的场景主动提示，且不自动修改配置。
观察资料应最小化。为了知道文档更新，通常不需要持续保存用户全部屏幕内容。用户模型越广，隐私与解释成本越高，收集范围应由具体帮助目标约束。
主动 Agent 的质量，是在合适时机提供可解释帮助，而不是最大化动作数量。最后一讲将处理这些任务跨时间持续运行时的恢复问题。继续阅读长任务系统。