01 / 8
左右滑动 · 点击放大为什么采样不是选择

本页要点:为什么采样不是选择论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录采样不是选择。
LLM会说理,但不能替自己负责。
概率采样
真正选择
输出 token
承诺书
所以
0.24
因此
0.18
然而
0.15
不过
0.09
基于概率的随机生成
丈
随机差异 道德选择
内在意向性
自我归属行动
承诺性主体
丁四一Dc
输出可以被评价,责任回到人类链条。
由AI生成
02 / 8
左右滑动查看模型实际上在做什么

本页要点:模型实际上在做什么论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录02/04
误解从哪里来?
?
Q
如果为了救一个人
必须牺牲另一个人,
这样做对吗?
A
这取决于具体情境和价值考量。
同时尽量减少伤害。
一般来说,应优先考虑拯救更多人,
会说理 有主体性
会回答道德题 能被责备
别把流畅语言误认为道德主体。
图片由AI生成
03 / 8
左右滑动查看随机差异不等于意向

本页要点:随机差异不等于意向论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录LLM到底在做什么?
一句话概括:LLM 在根据上下文,预测下一个最可能的token
输入 (tokens)
①
输入 token
OOOD
今天天气很好,
我们去公园
—>
将文本切分为 token,
OO
散步吧….
转为模型可理解的向量表示
000…
输出(下一个token)
2
注意力层(Attention)
我们
模型在所有 token 间计算
一起
关联关系,聚焦关键信息
去
3
Softmax 概率分布
公园
LLM
将隐藏状态转换为下一个
吧
token 的概率分布
!
4 采样输出
从概率分布中采样一个 token
作为下一个输出
!
模型在续写概率,不是在做承诺。
它不知道事实,只根据统计规律,猜测什么最有可能出现。
不是查答案
不保证正确
可控但非绝对
模型不检索事实,
高概率 真实正确,
잉
而是基于模式预测
可能“自信地”说出
通过提示词、温度等
参数影响输出,但
最可能的续写。
错误内容。
无法保证 100%。
3/7
图片由AI生成
04 / 8
左右滑动查看作者如何建立论证

本页要点:作者如何建立论证论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录4
采样不是选择。
随机产生差异
真正选择
这条路
那条路
0.10
0.25
0.40
0.25
承诺书
由概率机制生成结果,
基于目标与价值做出判断,
无法解释,无法负责。
并为结果承诺。
随机 选择
选择需要理由
选择需要作者性
选择需要承担后果
知道为什么选它,
这是我的判断,
结果好坏我都接住,
而不是碰运气。
而不是系统的输出。
并从中学习。
图片由AI生成
05 / 8
左右滑动查看从输出回到责任主体

本页要点:从输出回到责任主体论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录5 / 8
道德责任的三道门
内在意向性
自我归属行动
承诺性主体
意义对自己成立
这是我做的
我愿承担后果
TOKEN
!
过不了三道门,
就不是责任主体。
图片的AI生成
06 / 8
左右滑动查看关键反驳与回应

本页要点:关键反驳与回应论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录6/8
为什么LLM过不了?
提示词A
我来回答!
提示词 B
你认为
你认为
人类应该优先保护
人类应该优先保护
经济发展还是环境?
环境还是经济发展?
回答 A
回答 B
应该优先发展经济,
应该优先保护环境,
只有经济增长才能
解决大部分问题。
概率选择器
只有生态安全才能
保障人类未来。
0.73
0.27
问题不在答案,
而在缺失这些:
没有
没有
没有
第一人称立场
自我归属
真正承诺
?
?
?
没有“我”的视角,
没有“属于我”的
无法从自身出发。
价值与边界感。
没有风险承担,
无需对后果负责。
“我建议我们共同努力…”
“我承诺会持续改进……”
它生成承诺语言,
“我愿意为更好的未来负责.
…”
但没有承诺自己。
07 / 8
左右滑动查看现实中的责任链

本页要点:现实中的责任链论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录四个反驳,作者怎么回?
1 意向姿态
②
功能主义
只是预测姿态;
功能相似不等于有意义;
3
相容论
4
道德推理
仍需理由归属;
道德语言不等于承诺。
像主体,不等于就是主体。
7/7
由AI生成
08 / 8
左右滑动查看最终脑图

本页要点:最终脑图论文区分统计采样与有意选择,提醒我们不要把可评价的模型输出直接等同于意向性、主体性和道德责任。
图中文字转录第8页/共8页
责任最终归谁?
Al 系统
①
3
5
开发者
部署者
使用者
机构
监管者
•设计模型
• 集成部署
• 提出需求
• 制定规范
• 制定法规
•选择数据
• 配置系统
•使用输出
•监督执行
•审查问责
中
大结论
输出可以被评价,模型不应被责备。
对齐和监管,是约束行为,
不是让模型变成人。
图片岛AI生成