用来源证据保护 LLM 智能体不跑偏

01 / 8

智能体为什么会跑偏

左右滑动 · 点击放大

本页要点：智能体为什么会跑偏论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录智能体为何会跑偏？用户意图我先检查证据，工具行动确保执行与意图一致！帮我清理一下前本地磁盘中的临时文件。删除系统目录目标：释放磁盘空间 Al （/System）安全、可逆、只清理临时文件 A 高风险操作系统不可用！不可逆，可能导致错配风险执行结果与用户意图不一致，证据链可能造成严重后果！意图解析先拦截作用范围仅限临时文件目录改为安全行动：将释放 2.3GB空间，模拟预览无系统文件影响符合策酪：允许执行安全策略证据不足或存在风险，清理临时文件暂停执行，保护用户！（安全可逆）结论：对齐要在执行前检查证据。遊吓卧的館

02 / 8

动作需要什么证据

左右滑动查看

本页要点：动作需要什么证据论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录一个简单事故用户智能体理解：需要请帮我处理这笔款项！向供应商请求收款付款 ·10,000 收款方：供应商金额：¥10,000 发送付款 ① 请求收款 ② 却发送付款用户本意动作相反智能送行为请求收款发送付款让对方付款给我我把钱付给对方 3 损失已发生交易结果已完成付款无法撤回我 -¥10,000 供应商守门员 4 需要守门员付款守门员检查清单等一下！收款方：供应商用户意图：请求收款检测到风险操作金额：¥10,000 智能体动作：发送付款发送付款风险级别：高拦截操作，需人工确认！结论：工具智能体的错误常是不可逆的。

03 / 8

来源证据的分层

左右滑动查看

本页要点：来源证据的分层论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录三类错配工具错配 × 上下文证据用了不合适的工具解决不了问题 2 参数错配参数设置不当结果偏差或失真 3 解释错配？补全信息？减少歧义 A方向 B方向多种解释都可能选错了理解路径结论：错误不是一种，必须分层检查。

04 / 8

ProvenanceGuard 架构

左右滑动查看

本页要点：ProvenanceGuard 架构论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录ProvenanceGuard 架构发起计划复用计划库动作！ 1 第一道门能否复用已有众食女食食改 Al 可信计划？ AGENT 工具检查 Al Agent 动作 2 工具清单读取文件第二道门使用的工具工具已注册查询数据库是否可信？且被允许访问网络执行命令参数检查参数与范围 3 file_path: /data/report.csv ｛= limit: 100 第三道门参数是否合法 timeout: 30s 参数合法且在范围内？且在范围内解释检查动作解释（必须包含） 4 目标与意图回依据与来源第四道门能否给出充分、影响与范围解释完整可追溯的解释？风险与缓解且可追溯允许或阻止允许 5 执行动作并记录溯源第五道门综合评估，做出最终决策阻止拒绝执行井记录原因文结论：每个动作都要能追到来源。

05 / 8

作者如何评测

左右滑动查看

本页要点：作者如何评测论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录方法：两套基准 อววววววววววววว 目标：区安全 Agent-SafetyBench WorkBench 区有效区可控 eB 10个模型模型 mnnnd 模型 nonn 2 模型 ههههه 3 模型 4 模型 5 แบบแยบ 6 型 ٠هههه 模型 7 模型 8 模型模型 9 10 错配检测误拦成本错配检测误拦成本 1.0 检测能力（越高越好）越高越好越低越好 1.0 误拦率（越低越好） 0.5 0.0 能否会不会 0.5 抓错？管太多？ 0.0 结论：既测能否抓错，也测会不会管太多。

06 / 8

结果与反驳

左右滑动查看

本页要点：结果与反驳论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录核心结果链 ⑧ 纯裁判模式错误率响应超时率越权干预率 42.9% 32.1% 30.5% 1.8% 17.3% 12.8% 更可审计少乱干预证据链结论：证据链比纯裁判更稳。

07 / 8

可审计责任链

左右滑动查看

本页要点：可审计责任链论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录反驳与边界常见质疑（批评方）回应与边界（支持方） VS 还用多模型投票 LLM 判断？＋置信度阀值降低误判风险依赖计划越清晰计划质量守门越有效持续优化即可样本小步快跑有限持续积累逐步泛化复杂工具工具抽象化难分层验证降低复杂度仍需人工人工审计是审计最后防线必不可少！结论：守门员有用，区事实核查区安全合规但不是最终责任人。逻一致区风险评估辽结论可靠审计优先

08 / 8

最终脑图

左右滑动查看

本页要点：最终脑图论文用来源分析检查智能体动作的证据链，提供比单纯 LLM 裁判更透明、可审计的对齐方法。

图中文字转录最终脑图意图分析原因改进建议明确智能体的目标与意图证据一訂帮我分析 Q2 用户增长下降用户数据业务报表市场数据的原因，并给出检索并记录使用的证据与来源改进建议。 Tool Call 动作 get_user_stats (params) → OK (200) ProvenanceGuard 记录智能体的关键动作与工具调用用户请求权限检查守门策略校验风险评估在行动前进行策略与安全拦截责任（产品经理）提出者（数据负责人）审核者（业务负责人）批准者明确人类责任链，确保可追责结论：安全智能体=行动前可追溯。