科学的诚实,是把对自己不利的结果也发表出来
《别闹了,费曼先生》最后一章是费曼在加州理工的毕业演讲。他讲到一种自己称为科学正直的品质,而那条原则可以压缩成一句:
If you've made up your mind to test a theory, or you want to explain some idea, you should always decide to publish it whichever way it comes out. If we only publish results of a certain kind, we can make the argument look good. We must publish both kinds of results.
只发表支持自己的那一半,不需要说任何一句假话,就能让一个错的结论看上去证据充分。 这种不诚实不容易从单篇论文中看出来,因为被选中的结果本身可以是真的。
同一段演讲里他还提到一件更麻烦的事:一位研究生想重做一个已有的心理学实验,教授告诉她不行,那个实验已经做过了,重做是浪费时间。如果不允许重复实验,第一次做出来的结果就缺少了重新检验的机会,无论它当初是怎么做出来的。
这条正好照见我自己踩过的一次坑。QWERTY 锁死的故事,本身可能就是被锁死的说法 里,那些证明 Dvorak 键盘更快的实验源头基本通向持有该键盘专利的 Dvorak 本人,而 1956 年一项结论相反的对照实验在整条引用链上被漏掉了。那个案例也提示了选择性呈现证据的风险:不利的结果没有进入熟悉的说法。
弗洛伊德的伪科学问题:反向形成 是同一把尺子量另一个对象:一个理论如果正反两种结果都能解释,它就没有可以被推翻的地方。亨普尔悖论:一只白猫为什么会证实乌鸦都是黑的 从形式那一侧说明为什么"支持性证据"这个说法本身要小心。
演讲结尾,费曼祝愿毕业生有保持正直的自由:
So I have just one wish for you—the good luck to be somewhere where you are free to maintain the kind of integrity I have described, and where you do not feel forced by a need to maintain your position in the organization, or financial support, or so on, to lose your integrity.
他把正直当成一件需要运气才能负担得起的事,而不是一件光靠意愿就能做到的事。 这一句比整条原则更实在:能不能诚实,很大程度上取决于你所处的位置允不允许你诚实。 建议的可信度取决于建议者承担多少后果 则从听者一侧提醒,先看这个人说真话会失去什么。
——收入 一得
Links to this note
- AI 使用应当具有纪律性
这件事最后算是一个比较圆满的结果。但它留给我的真正启示并不在于客户有没有生气,而是让我越来越确定,AI 时代人必须保留几种不能完全让渡的能力。科学的诚实,是把对自己不利的结果也发表出来 里费曼那句在这里格外实在: 他把正直当成一件需要运气才能负担得起的事,而不是一件光靠意愿就能做到的事 ,能不能诚实很大程度上取决于你所…
- 先替对方把指控说出来
绝对的坦诚,就没有敌手 是同一个动作的原则版:主动坦白可以减少隐瞒带来的负担。 科学的诚实,是把对自己不利的结果也发表出来 是它在做研究时的样子,费曼要求把所有可能让结论失效的细节主动列出来。
- 别闹了,费曼先生
知识可以很脆弱,因为它不是靠理解装进去的:他在巴西教书时,对背诵替代理解的批评。 所有的锁都是可以打开的:我读开保险箱那几章记下的。 蚂蚁不需要聪明,只需要够多:他拿铅笔跟着蚂蚁划线,我记下的那段。 把真话当成玩笑讲出来:他说了实话,没有人信。 你没有责任活成别人期待的样子:从一封信里长出来的一条。 然后你就不再想了:…
- 官场偏爱圆滑与少犯错,也会排斥有主见的人
群体思维让一致压过现实检验 是它在会议室里的样子,没有哪个想法神圣到不能被嘲笑 和 可信度加权不是民主投票 是两种反向的机制设计。科学的诚实,是把对自己不利的结果也发表出来 里费曼那句更实在: 能不能诚实,很大程度上取决于你所处的位置允不允许你诚实。
- 花刺子模的信使:杀掉坏消息,坏消息就不会来
定规则的人没有动力约束自己 是它的结构那一侧,科学的诚实,是把对自己不利的结果也发表出来 是费曼给的相反要求,而他那句更实在: 能不能诚实,很大程度上取决于你所处的位置允不允许你诚实。 建议的可信度取决于建议者承担多少后果 给的是听者一侧的对策。
- 超自我的观点:能把是非跟利害分开
科学的诚实,是把对自己不利的结果也发表出来 是这条在做学问上的样子,而费曼那句限定在这里同样成立: 能不能诚实,很大程度上取决于你所处的位置允不允许你诚实。
- 辟谣自己也会变成谣言
科学的诚实,是把对自己不利的结果也发表出来 从证据链那一侧解释了它怎么维持: 不利的那一半不必被压下去,只要没有人去找,它就不会出现在流通里。 是否检索了相反证据、后来的研究采用了什么口径,都需要重新检查。