01 / 8
左右滑动 · 点击放大AI 改过后还是同一个吗
本页要点：AI 改过后还是同一个吗论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录Al改过之后，还是同一个AI吗？
改造前：疫情前的急诊分诊AI
改造后：疫情后的急诊分诊AI
急诊分诊AI系统v1.3.6
急诊分诊AI系统 v2.1.0
NEW
急者ID:JX10086
主诉：发热、咳嗽
女45岁
分诊建议
突发
症状时长：2天
低风险
疫情
惠者ID:JX10086
王诉：发热、咳畋
女45岁
分诊建议
血氧：95%
体溫：38.6°C
建议候诊区：
症状时长：2天
高风险
对新冠等症状
模型更新后，
昔通区
体温：38.6°C
血氧：95%
发热门诊
建议就诊区：
更敏感了。
风险评分：0.23
风险评分：0.87
低
中
主 敗据来源：本院历史敗据（2019-2023）
根型版本：v1.3.6
训能效返觀止：2024-01-31
低
中
高
主民敗铜来源：本院+外院恫数据（2024-2025）
複型版本：v2.1.0
训东数据栽止：2025-05-15
极型给构：已调篷
特证数量：增加37%
分诊准确率
目前运行稳定，
符合预期。
高风险AI
更新/重训
同一性判断
重新评估
顺序与资源分配，属
分诊Al直接影响就诊
引入新数据、调整模型结
高风险AI系统。
实质性变化。
构与参数，系统行为发生
原来的那个AI？需要
改过之后，还是不是
若非同一Al，应重新进
系统性判断。
案登记。
行风险评估、验证与备
数据变化是否实质性？
2
模型结构是否改变？
3
行为表现是否显著不同？
训练数据新增比例起过30%，且包
含疫情期间分布变化显著的数据。
发生了调整。
网络结构、特征工程或学习目标
建议发生系统性变化。
在关键指标上差异显著，临床决策
约62%，分布
新增数据占比
数据分布对比
发生明显迁移。
改追的 （v1.3.6）
模型层数增加，
改谊后 （v2.1.0）
损失函数也调整了。
特征数量增加37%，
从 0.61- 0.89
高风险识别召回率：
v1.3.6
V2.1.0
误分诊率：
从7.8% 3.1%
新增敗据占比：62%
建议分诊类型变更率：
从18% -47%
是，实质性变化
是，结构已改变
是，行为差异显著
））
综合判断：
重新备案
改造后的系统已不是原来的AI，应视为新的AI系统，
需重新进行全流程治理与合规评估。
治理Al，先说清楚它是哪一金
02 / 8
左右滑动查看两个身份争议案例
本页要点：两个身份争议案例论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录两个案例：身优争议
案例一：医院分诊AI升级争议
案例二：机场生物识别采购比较
十医院分诊
供应向说这是
不需要重新评估！
“同一系统”，
机场识别
出发大厅
我们只是升级了
Departures
算不算换了系统？
分诊Al模型，
“生物识别系统”，
A厂和B厂都叫
名字一样，
可以直接对比吗？
功能審似相似，
标书里比较价格！
就应该在同一张
AI分诊系统 v1.0
升级
AI分诊系统v2.0
换了模型、规则和流程，
？
病人分诊结果可能不同，
算法、设备形态、
这还是“同一系统”吗？
部署方式差异很大，
真的可比吗？
证据能否迁移
医院的原评估证据
升级后能否直接用？
机场的原比较证据（A厂）
能否用于B厂比较？
准确率评测报告（V1.0）
模型变更
算法准确率
X
算法技术路线不同
临床试运行记录
分诊规则变更
活体检测能力
设备形态不同
医生使用反馈
X
输出结果分布变化
影响临床决策路径
设备性能参数
部署架构不同
系统集成方案
接口与集成方同
风险评估报告
证据不可直接迁移，
运维服务保障
X
运维模式不同
需重新验证！
证据不可直接迁移，
不可直接比较！
价格与责任
按“同一系统”处理的风险
不恰当比较的风险
节省评估成本？
结果出错导数
低价中标了，
看似省钱…
误诊，责任谁担？
但识别馒、误识别，
（高性能方案）
A厂
影响通关效率，
B厂
责任谁担？
（低配方案）
风险：证据不足 一 决策失当 惠者受损 一 医院担责
风险：不公平比较 一低价中标 一性能不足一运营风险
正确做法：
视为新系统一重新评估 风险可控一责任清哳
正确做法：
分别评估一明确需求 公平比较 一价值优先
名字不同，不等于系统不同
看本质：功能、技术、流程、影响是否相同
看证据：能否迁移、是否充分、是否匹配
看责任：决策依据要充分，风险责任才清晰
03 / 8
左右滑动查看功能之外的身份标准
本页要点：功能之外的身份标准论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录function+：功能之外
一个AI神器的“身份”，
不仅来自它能做什么（功能），
身份
更来自它如何被信任、在何处使用，
由多维要素
以及它对世界做出的承诺。
共同构成！
特修斯之船
技术功能
AI 核心
当所有木板都被替换，
它还是原来的船吗？
模型与组件会不断迭代，
但身份由多维要素共同支撑。
最初的船
它能做什么？效果如何？
是身份的基础。
能力、性能与稳定性
②
可信画像
Al
逐步更换部件
来源、训练数据、价值观、
它是什么样的存在？
透明度与可解释性，
模型版本v1.0 V2.0 ⋯
构成可被理解的“画像”。
3
可信水平
组件与能力持续演进
全部替换完成
模型
数据
我们有多信任它？
工具
通过评估、验证、历史表现
记忆
信任水平。
与风控机制，形成可度量的
接口
形式在变，功能延续，
使用语境
唯有“可信+语境＋承诺”
功能在变，结构在变，
身份却需要重新界定。
不同语境下，风险、期望与贵任边界都不同，
在什么场景、由谁、基于什么目标使用？
身份也随之调整。
让身份持续成立。
信任来自验证，
可信承诺
身份源于承诺。
• 我能达到什么边界
• 我会如何使用你的数据
通过公开的承诺与
•我会如何持续改进
• 我出错时如何负贵
建立长期信任关系。
可验证的机制，
AI身份= 功能＋可信承诺
04 / 8
左右滑动查看AI 全生命周期
本页要点：AI 全生命周期论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录合规不是
而是
一次性，
AIA生命周期
持续的循环！
EUA
Act
欧盟《人工智能法案》（EU AI Act） 下的全生命周期合规管理
合规认证
食好
1
事前评定
合规评定报告
投入使用前，进行
在AIA系统投放市场或
风险评估与合规评定，
符合要求
确保满足高风险AI系统
的各项要求。
囚 风险管理
通过评定
效据洽理
技术文档
透明度
准确性/魯榛性
人类监督
性能指标
风险监测雷达
数据溧移
2
上市监测
系统上市后，持续监测
准哗率
98.6%
及时发现问题，确保
其性能、风险与影响，
用户反馈
持续收集数据
事件日志
持续合规。
•无偏差
定期评估风险
投浜串0.3%
•运行正第
•无严頭事件
金 监測系统性能
记录与报告
3
重大修改
新系统
重大修改检测到！
重新评定流程（如需要）
当系统发生重大修改
更新技术文档
重新评定，必要时
可能影响风险时，需
是否影响系统风险？
重新风险评估
重新通过合规程序。
否
是
验证与测试
通过评定后继续使用
记录即可
進新评定
通过
从设计之初就
融入合规要求
AIA已经在做跨时间身份判断
系统的身份、版本、变更与责任，贯穿全生命用期，
确保可追溯、可验证、可问责！
刘性生
05 / 8
左右滑动查看跨时间的身份判断
本页要点：跨时间的身份判断论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录应
跨时间：旧日还是新？
同一个 AI系统，
在时间中演化，如何判断“旧”还是“新”？
多
2023.01
v1.0
2023.06
v1.1
2023.12
v1.2
2024.06
v2.0
2024.12
v2.1
台 模型核心
参数规模：1B
模型架构A
参数规模：1.2B
模型架构A
参数规模：1.5B
模型架构A
参数规模：7B
榄型架构B
参数规模：7B
模型架构B
数据流
覆盖期：2022
数据源：D1
復盖期：2022-05
数据源：D1+D2
覆盖期：2022-11
数据源：D1+D2
数据源：D1+D2+D3
覆盖期：2022-05
数据源：D1+D2+D3
覆盖期：2022-11
公平性防护
规则集 R1
值组 T1
阀值组T1
规则集 R1
阀值组T2（微调）
规则集 R1
规则集 R2
阅值组 T2
阀值组 T3（微调）
规则集 R2
可解释性透镜
粒度：全局
方法：L1
粒度：全局
方法：L1
方法：L2
粒度：局部
粒度：局部
方法：L2
粒度：局部
方法：L2
检查点门
檢 策略：C1
审批人：人类
检查策略：C1
审批人：人类
审批人.人类+AI
检童策略：C1
检查策略：C2
审批人.人类+A
审批人.人类+AI
检查策略：C2
2023.01
2023.06
2023.12
2024.06
2024.12
时间
1.功能相同？
2. 画像相同？
3. 水平相同？
4. 越界=新系统
相同的任务，用于
系统是否完成
对人群的刻画与
相同的目的？
影响是否在本质上
性能与风险的总体
保持一致？
水平是否在可授受
是否突破了原有的
区间内？
设计边界或治理边界？
8=8
（都是信用评估）
本例：相同
（风险画像维度相同）
本例：基本一致
（指标在阅值内波动）
本例：总体相当
（機型架构与檢童策睛变更）
本例：V2.0越界
= 视为新系统
什么是“越界”？
改变核心建模范式
只要越界，
连续演化千频繁变更就算新
（如架构B着代架构A）
就可能带来新的
风险轮廊！
v2.0
v2.
引入新的数据源族
在边界内的
（带来新的人群覆盖与俯差形态）
小步迭代与微调，
仍属于同一系统
v1.0
.2
突破原有治理边界
的连续演化。
（如检查略或审批机制改变）
同一系统（边界内演化）
（新系统）
越界
更新不是原罪，越界才断裂
守住边界，持续改进；跨越边界，重新评估。
06 / 8
左右滑动查看同一时间如何比较
本页要点：同一时间如何比较论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录同一时间：A和B相同吗？
AI部署 A
12
Al部署 B
计划采购相同产品
在同一时间点
计划采购相同产品
在同一时间点
同一时间点
Al
采购负责人A
采购负责人B
比较维度
AI部署 A
AI 部署B
是否相同？
目的相同
相同的业务目标
是否为了实现
降低人工成本
提升客服响应效率
提升客服响应效率
降低人工成本
是
或管理目标？
画像相同
业务流程等是否
服务对象、应用场景、
售前咨询场景
面向电商平台用户
售前咨询场景
面向电商平台用户
是
实质相同？
流程：咨询-答复-转人工
流程：咨询-答复-转人工
水平相同
准确率≥90%
功能范围等是否
技术能力、性能指标、
响应时间≤2秒
处于相同水平？
意图识别等功能
支持多轮对话、
A
响应时间≤2秒
准确率≥90%
支持多轮对话、
是
意图识别等功能
证据可共享
用于证明的资料、
试点案例报告
第三方测评报告
第三方测评报告
是否可互认共享？
测试报告、案例等
合规证明材料
合规证明材料
试点案例报告
是
四个维度
结论：证据可共享
证据可以
都相同！
可以基于A的
B的采购决策，
证据，支撑
共享使用！
提高效率！
任一不满足，就不能套用证据
目的不同
否
画像不同
否
水平不同
否
证据不可共享
否
A：提升效率
B：結展市场
A：售前咨询
B：售后工单
A：准确率≥90%
B：准确率≥80%
A：有測评报告
B：无测评报告
夭
！
任一不满足，就不能套用证据
？
07 / 8
左右滑动查看反驳与回应
本页要点：反驳与回应论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录，反驳与回应、
监管方
服务方
我们有一些
感谢质疑，
担忧和疑问。
我们逐一回应。
VS
监管方
服务方
用途太宽？
分层记录
高敏感
“可信数据空间”
我们采用分层记录：
（仅授权使用）
？
会不会用途太宽，
不同用途、不同敏感度
什么都能装进去？
的数据，分层管理、
（受限使用）
中敏感
边界清晰、授权可控。
（开放使用）
低敏感
低
指标波动？
聚合水平
数据可信度
我们通过聚合提升稳定性：
指标会不会
随着聚合水平提高，
波动很大，
可信度更稳定，
不够稳定？
趋势更可靠。
个体层面
（波动大）
（较稳定）
群体层面
宏观层面
（更稳定）
可信度
可信度随聚合水平提升而趋于稳定
趋势清晰，
1.0
越聚合，越可信！
0.8
0.6
0.4
0.2
个体层面
群体层面
（较稳定）
（更稳定）
宏观层面
（波动大）
聚合水平（从低到高）
不是记录一切，而是记录边界
08 / 8
左右滑动查看最终脑图
本页要点：最终脑图论文把高风险 AI 的生命周期治理推进到身份哲学：系统何时仍是原来的系统，何时必须重新认证。
图中文字转录最终脑图
！！
功能
可信度
能力可描述、可验证
它能做什么
来源可查、评估可见
它是否可靠
自然语言对话
提供方：
XX科技有限公司
数据分析与总结
模型名称：
XX-Chat-Pro
版本：
v2.1.3
文案生成
训练数据截至：2024-12-31
安全评估：
通过
く＞
代码辅助
合规认证：
◎ 已认证
评估结论：
高可信 女女女
边界明确可查
功能清单清晰
来源透明
Al身份
评估有据
D#-ID: Al-7f3e9c2a
时间
提供方：XX科技有限公司
版本：v2.1.3
责任链
状态随时间变化可追溯
它何时有效
采购到使用全链可追踪
出了问题谁负责
可信度
高4
当前状态
2025-05-22
中
可信度：窩
只
采购方
2024-06
2024-12
2025-05
时间
合同签订
需求提出
模型开发
提供方
部署方
服务提供
运维管理
系統部署
业务使用
使用方
2024-01
结果输出
状态记录
・2024-01-01
・2024-06-15
上线发布
v1.0.0
全链留痕，贵任清晰
・2025-05-22
・2024-12-31
模型升級
安全评估更新 结果：通过
当箾版本
V2.0.0
问题可定位，追责有依据
v2.1.3
变化可追溯
时间线清晰
链路完整
责任可查
让同一和不同
身份记录
都有证据可查
评估报告
変更日志
资任链记录
◎