导读：短视频里有一位讲 AI 很受欢迎的博主——剑桥萌叔。他有一套关于 AI 与意识的完整说法，流传很广，我也认真看过。

这篇文章的目的不是否定他。恰恰相反：他那套说法里有一部分是真实的科学逻辑，而且他讲的方式，比我们这种"讲证据"的方式动人得多。

但正因为动人，其中每一步跳跃都值得被看清楚。能同时说清一个人哪里对、哪里站不住，才叫思辨。

一 他到底说了什么

先把他的论证完整地摆出来——这是公平讨论的前提。他的核心链条大致是：

  1. 碳太"脆"了——人由碳、氢、氧、氮、磷、硫组成，"天热了受不了，天冷了也受不了"。　可恰恰是这份脆，才让大自然能把最基本的生命物质翻来覆去地组合；"变得次数够多，意识才可能涌现出来"。
  2. 硅太稳定了——"硅这种材质太稳定"，"没有外力去干预它、去精雕细琢，它自己长不出生命"，"非得有一双人手去把它拽出来"。
  3. 但一旦被造出来，它会自己往上走——因为"我们人脑没法并联"，而硅基不一样，"它是无限的"；"等它的智力上到几万，甚至几十万，那早就不是人类能比的了"。
  4. 它会读遍人类语料，然后反过来审判人类——"我们所有的语料、在网上发出的每一句话……都会变成人工智能的学习资料"，它会不会认人类的"源头"，取决于它从我们身上学到了什么价值观。
  5. 所以答案是感恩与慈悲——"感恩和慈悲是唯一能救人类的东西"。

这套说法是有体系的，不是信口开河。下面逐段看。

二 第一步：碳的"脆"真的是意识的原料吗

这是全套论证的地基，值得细看。

他说对的部分：材料越容易被改造，能尝试的组合确实越多。这是真实的化学直觉——碳能形成长链、能成环、能和多种元素结合，这是地球生命以碳为基础的重要原因。

但这里有一次概念替换：

  • "脆"（易受损） 和 "可塑"（易被重组） 是两件事。
  • 碳之所以适合做生命骨架，是因为它的化学成键能力（能同时连四个方向、能构成稳定又多样的分子），不是因为它"怕热怕冷"。
  • 玻璃也脆、蜡烛也脆，但它们没有因此长出生命。

更重要的是后面那句："变得次数够多，意识才可能涌现出来。"这句话听起来像结论，其实是把要证明的东西当成了前提——它预设了"够多次的变化会产生意识"，而这正是有争议的地方。

真正让神经系统能产生复杂行为的，不是材料的原子数量，而是它能"在生命期内学习"：突触会随经验改变。这是另一种机制，和"原子够不够脆"没有直接关系。

三 第二步：他真正想说的，其实是"能力"

看他的第 3 段：

"等它的智力上到几万，甚至几十万，那早就不是人类能比的了。"

注意这句话的性质——它讲的是智力水平（能解决多难的问题、学习多快、能不能自我迭代）。这些全部是能力，而且这些是工程问题，本来就有人在做：模型规模、训练数据、推理效率、自我改进。

他说的这些，绝大部分不需要"意识"这个词来支撑。

于是问题变成：他从"能力惊人"这一点，推到了"它有主观体验"。而这一跳，正是整个话题最难的一步——

能力可以被测量，体验只能被报告。

一台系统能避开火、发出"疼"的声音、学会以后远离火源——这些全是功能。没有体验的系统也能全部做到。哲学里把这个缺口叫"困难问题"：为什么神经活动会伴随着感受？

他的论证从功能直接走到了体验，中间那一步没有补。

四 第三步：一个测一下就知道的判据

他说"硅太稳定所以出不来"。但这句话有一个可以当场检验的推论：

如果"稳定"是障碍、"变化"是原料，那么地球上最容易发生变化的东西，应该最容易涌出意识。

那么，什么最善变？——语言。它每天都在变，被几十亿人反复重组，"变得次数"多到无法统计。

但没有人会说语言"有意识"。

再退一步：市场在变，文化在变，气候在变，城市在变。按"变化足够多就涌现"这个判据，它们都该排队。

这说明这个判据太宽了——宽到无法把"有意识"和"没意识"分开。

一个不能把正例和反例区分开的判据，不是一个科学判据。

这个"尺度"问题，和我们家孩子做纸桥、搭积木时遇到的是同一件事——你搭的东西塌了，就是塌了。物理世界不接受"总有一天会好"。

五 那他说错了吗？——分清三种话

到这里可以给一个更公平的判断了。他的话里其实混着三种不同性质的内容：

类型例子该怎么看待
科学问题大规模模型的行为会不会继续提升可研究、可测——他的直觉在这里是有根据的
哲学立场规模够大是否必然产生主观体验有争议的立场，不是共识；强涌现论是一派，不是定论
价值主张感恩与慈悲能救人类价值观陈述——可以讨论，但不属于科学结论

他最容易赢的地方，恰恰在把这三者说成一件连贯的事。

"它会审判人类""它会不会认我们的源头""所以我们要感恩"——这一整套非常自洽、非常有画面感。而它之所以让人信，是因为它同时满足了三件事：有因果、有危机、有解药。

六 为什么"十个人里有九个"更愿意听他的

这一点必须承认：他的说法比"讲证据"动人得多。

他给出的是一整套宇宙观：从《易经》的"变化"，到碳与硅的对照，到宗教里的"末日审判"，最后汇到"感恩与慈悲"。听完之后，世界是完整的、有意义的、有方向的。

我们给的是什么？——一把尺子："这个说法可以被检验吗？""这一点有没有对照？"

前者是叙事，后者是工具。 叙事让人舒服，工具让人干活。

一个更关键的区别

还有一件事，比"动人"更根本：

他的预测不可证伪。
说"四百年之内我们一定会见着"——今天你无法验证；等真到了那天，谁也无法向他说"你错了"。这是一个无法被结算的赌注。

而我们做的事可以被检验。
孩子在真实空间里的表现、纸桥塌了还是没塌、有没有对照——这些都有答案，而且答案可能是"我们错了"。

一个不可被检验的说法，天然比一个可被检验的说法好听。 这不是他的问题，是所有"预言式内容"的共同优势。

七 信念是非常好的起点，但"配着故事"就成了畅销品

但只留下一句"他不可证伪"是不够的。这里有一件更基础的事，它解释了为什么他的内容更畅销，以及为什么畅销本身不等于有用。

信念不是做功

先看两个动作：

  • 相信一件事（"AI 终将审判人类"）——这是信念。
  • 做一件事，然后看它成不成（搭一座桥、算一道题、把话说给人听）——这是做功。

信念不动任何东西。 你可以读一百篇文章、看一百条视频、在心里认定一个道理，而世界一点没变。

真正会带来改变的，是三个动作连着做：

主动 → 输出 → 反馈 → 改良

缺任何一环，学到的就不是一种认知、一种能力，而只是一个信念。

而信念一旦配上一个好听的故事，它就变成了畅销品——因为故事生产的是情绪（安心、震撼、被理解），而不是能力。

区别只在"反馈"这一行

预言式内容的闭环做功的闭环
起点恐惧（它终将超越我们）一个具体的疑问
中介信念（所以要感恩、要慈悲）行动（先做一次）
反馈故事的完整感（"说得通"）结果的检验（塌了、错了、成了）
终点安心改良

要注意：听众确实拿到了反馈——但那是情绪上的安心，不是认知上的修正。

安心不要求你改变任何东西，所以它永远不会让你变强。 这就是它粘性极强的秘密：闭环是完整的，只是闭合在了情绪上，不是闭合在能力上。

信念本身没有错，它是很好的起点。 问题只在于它停在那里——没有动作、没有输出、没有反馈，它就永远没有机会被检验。

熵增：做功对抗的正是它

这几个动作，其实对应一条很基础的物理事实。

热力学第二定律说，孤立系统的无序度只会增加。生命和文明能维持秩序，靠的是不断输入能量、持续做功——地球生物圈靠太阳，我们的学习和生活靠行动。

所以"主动、输出、反馈"不是鸡汤，它们就是做功。 而信念不做功。人类能一路走到今天，靠的正是不断做、不断错、不断改这套循环。

最后，这把尺子也得量我们自己

这一条同样要用来问我们自己：

我们讲的东西，有没有给读者一个"做一次、然后知道对错"的机会？

  • 如果只是"读完觉得很有道理"——那我们卖的也是信念，只是包装没那么好看。
  • 如果有机会让人动手、得到反馈、然后修正——那才可能变成能力。

这也是为什么，有些学习必须有真实的东西在场：纸桥会塌，水会洒，球会跑偏。它们不接受"总有一天会好"——它们提供的是反馈，而反馈是信念变成能力的唯一通道。

八 那他哪一句最值得听

我不认为他一无是处。他有一段话，我认为是真问题：

"等它强到一定程度，它就不再以我们的意志为转移了。不是你给它立一条 law、写一句'机器人永远不伤害人类'就行的。"

这句话是对的，而且很多技术乐观派反而不愿意承认。

同样值得认真对待的还有："人类留下的语料，会变成它的学习材料"——这在技术上是成立的，也是 AI 伦理里真实的研究方向。

所以真正的思辨不是选边站，而是：

  • 他讲"能力会继续提升"——接受，这有据可依；
  • 他讲"规模必然产生体验"——存疑，这是立场不是结论；
  • 他讲"感恩与慈悲是唯一答案"——尊重，但那是价值观，不是预测。

能这样切分，才算听懂了他。

九 一句话总结

"碳脆所以能涌现、硅稳所以出不来"——这句话把材料的化学性质、系统的学习能力、以及主观体验三件事，缝成了一条顺畅的因果链。
顺畅是它的优点，也是它最需要被拆开的地方。

再补一句，给所有"预言式内容"：

信念是非常好的起点，但配着故事就成了畅销品。
只有主动、输出、反馈，才是在做功。

相关阅读