然后你就不再想了
《别闹了,费曼先生》里最重的一段不在实验室,在三一试验成功之后的洛斯阿拉莫斯。所有人都在开派对,费曼坐在吉普车尾上敲鼓。只有 Bob Wilson 一个人坐在那里发呆。
I said, "What are you moping about?" He said, "It's a terrible thing that we made." I said, "But you started it. You got us into it."
费曼接下来那句是全书里我读得最慢的一句:
what happened to me—what happened to the rest of us—is we started for a good reason, then you're working very hard to accomplish something and it's a pleasure, it's excitement. And you stop thinking, you know; you just stop. Bob Wilson was the only one who was still thinking about it, at that moment.
让人停止思考的不是恐惧,也不是服从,是投入本身。 理由在最开始是充分的(德国人可能先造出原子弹),然后工作变得困难、有趣、令人兴奋,问题被技术难题一层层覆盖,等到东西造出来,那个最初的理由早就没有人再检查了。
这条和另外那一族摆在一起会更清楚。恶的平庸性,是丧失了思考的能力 讲的是艾希曼那种"不再思考",阿伦特强调它不必出自恶意;大屠杀是现代性本身的可能,不是理性的失败 讲的是分工怎样把每个环节的人都隔离在后果之外。费曼这一段补的是第三种路径:不需要官僚制的分工,也不需要平庸,光是"这件事很难而我很投入"就足以让思考停下来。 这一种最难防,因为它伪装成美德。
Bob Wilson 之所以特别,不在于他更聪明或更善良,而在于他是唯一一个还在问的人。独立判断是一件责任风险极大的事 说的是那个位置有多不好待,一旦不再照多数行事,判断错了没有可以推诿的对象。派对上发呆的那个人,就在那个位置上。
费曼自己也交代了后果。回到文明世界以后,他坐在纽约的餐馆里,看着窗外的楼,开始计算广岛的爆炸半径能到第几街;看见有人在造桥、修路,他想的是他们疯了,他们不明白,为什么还要造新东西,这毫无用处。 那段清醒来得太晚,而且形状是抑郁。
可用的一条:在一件事进行到最投入的时候,主动停一次,重问当初那个理由还成不成立。 越是顺利越要问,因为顺利本身就是让人不再问的原因。
——收入 一得
Links to this note
- AI 使用应当具有纪律性
在这个案件里,我们做了大量复杂的比较和策略分析,却跳过了一个最简单的检查。全部申请项目减去被驳回项目,剩下的自然就是已经通过的项目,五分钟的集合运算就足以阻止后面的全部错误。可是人和 AI 都有一种共同倾向,我们喜欢做复杂的事情,因为复杂容易产生一种"我已经认真处理过"的感觉,真正决定性的简单问题反而容易被忽略。 所以…
- Hamlet 没有在祈祷时杀 Claudius,因为那会把仇人送进天堂
二阶后果常常和一阶相反 是它的形式,然后你就不再想了 是它的反面: 那里是投入让人停止检查最初的理由,这里是过度检查让人永远动不了手。 两种毛病看起来相反,来源都是没有一个说停就停的对账点。
- 以愚蠢教人,是善良的人能犯的最重的罪
恶的平庸性,是丧失了思考的能力 是同一处的另一半,阿伦特强调艾希曼的问题不必出自恶意。 两条合起来是一整条:不思考本身就是一种可以问责的状态,而不是可以拿来免责的理由。 然后你就不再想了 讲的是第三种成因,投入本身会让思考停下来。
- 别闹了,费曼先生
知识可以很脆弱,因为它不是靠理解装进去的:巴西那一段,全书份量最重的批评。 所有的锁都是可以打开的:我读开保险箱那几章记下的。 蚂蚁不需要聪明,只需要够多:他拿铅笔跟着蚂蚁划线,我记下的那段。 把真话当成玩笑讲出来:他说了实话,没有人信。 你没有责任活成别人期待的样子:从一封信里长出来的一条。 然后你就不再想了:Bob…
- 反叛不是用尺度衡量的,几步之后就没有回头路
然后你就不再想了 讲的是走下去之后会发生什么: 投入本身会让人停止检查最初那个理由。 柯希莫后来给自己那条规矩找了一整套理由,而起因只是一盘蜗牛。
- 召唤出现时,旧有的生活模式已经不再适用
坎贝尔那一节还有个更冷的名字叫 拒绝召唤 ,他说那是"逃离神的愚蠢"。然后你就不再想了 讲的是另一种拒绝,不是不敢动身,是动身之后投入本身让人不再回头检查最初那个理由。 ——收入 读书笔记 · 一得
- 忠诚、反叛和仇恨可以来自同一套教育
恶的平庸性,是丧失了思考的能力 和 然后你就不再想了 是这条的两种下游:一种是不再想因为不需要,一种是不再想因为太投入。独立判断是一件责任风险极大的事 说的是唯一的出口有多不好待。
- 解决问题本身可以成为学习的奖励
然后你就不再想了 是同一件事的危险面: 当过程本身足够令人兴奋,最初那个理由就没有人再检查了。 ——收入 读书笔记 · 一得
- 革命失败常常不是因为不彻底,而是因为太彻底
而"彻底"之所以特别容易失控,是因为 它在过程中一直表现为美德 。不妥协、不苟且、不半途而废,这些词本身没有一个是贬义的,所以刹车的时机永远显得像背叛。然后你就不再想了 讲的是同一种伪装:投入本身足以让思考停下来,而这一种最难防,因为它看起来像认真。