《为什》{么造}AI【的人】最怕AI

玛丽 · 雪莱写《弗兰肯斯坦》的时候才 19 岁。两百年后，法国科学社会学家布鲁诺 · 拉图尔（Bruno Latour）重新读了这本书，他认为人们读错了这个故事。弗兰肯斯坦真正的罪行，不是创造了怪物，而是他创造了怪物之后，抛弃了它。

拉图尔在去世前的一次访谈里，把刀刃转向了今天：弗兰肯斯坦的故事最让人睡不着的地方，不是那个怪物有多可怕，是我们每一个人，在每一天，都在做弗兰肯斯坦。

你造出一个比你强大的东西，你被它吓到了，你转身离开。换工作，换说辞，换一套叙事，让自己相信这件事不再需要你负责。

2026 年 5 月，三件事几乎同时发生。它们像是拉图尔这段话的三块拼图，散落在不同的新闻版面上，拼在一起之后，有点弗兰肯斯坦的意味。

Google DeepMind 的英国员工投票组建了工会。全世界最顶尖 AI 实验室的博士们，核心诉求之一是拒绝把 AI 供给军方。大约同一时间，600 多名 Google 员工联名致信 CEO 桑达尔 · 皮查伊（Sundar Pichai），措辞严厉：" 唯一能确保 Google 不与这些危害关联的方式，就是拒绝任何机密工作负载。" 信里说的危害，是指致命自主武器、大规模监控。

几天后，亚利桑那大学毕业典礼上，前 Google CEO 埃里克 · 施密特（Eric Schmidt）站上讲台。他刚讲到 AI，台下持续密集的嘘声让他没法继续。《The Verge》评论：科技精英关于 "AI 带来巨大机会 " 的叙事，正在失去年轻人的信任。

三件事。劳工、伦理、代际。放在一起就是同一个故事：人类制造工具的历史上，从来没有一个时刻像现在这样，最了解一项技术的人，恰恰是最怕它的人。

他们正在分裂。继续建造的，和发出警报的，在同一栋楼里互相撕扯。

硅谷正在进行一场认知内战。

一、造 AI 的人，最怕 AI

2023 年春天，杰弗里 · 辛顿（Geoffrey Hinton）跪在枕头上，吃完了在 Google 的最后一顿午餐。

因为背伤，他已经这样跪着进食了十七年。75 岁，深度学习领域的 " 教父 "。神经网络从 1980 年代的学术冷宫到 2020 年代的工业革命，他坚持了四十年。然后他辞职了，说了一句话：" 我们正在制造某种比我们更聪明的东西，而我们对它没有任何控制。"

媒体把这归类为 " 科学家的忧虑 "，继续报道下一个 AI 产品发布。

有一个细节，很少有人注意到。辛顿是乔治 · 布尔（George Boole）的曾曾孙。布尔，十九世纪英国数学家，鞋匠的儿子，在穿越田野的途中听到了上帝的声音，随后写下了《思维规律研究》，发明了那套把 " 真与假 " 压缩进数字电路的二进制逻辑。死于 1864 年，肺炎，临终前在妄想中看见 " 整个宇宙像一片黑色海洋 "。

一百六十年后，他的曾曾孙用这套逻辑建造了神经网络，训练出了可以写作、推理、生成图像的 AI 系统，然后宣告：人类可能只是智能进化链上的一个过渡阶段。

这不是科技史的趣味花边。这是一条造神冲动的血脉遗传。

2026 年 2 月，马斯克的 AI 公司 xAI 联合创始人吉米 · 巴（Jimmy Ba）宣布离职。告别帖里他写道：" 我们正迈向一个拥有合适工具就能实现百倍生产力的时代。递归式自我提升循环很可能在未来 12 个月内上线。2026 年会是疯狂的一年，很可能是我们物种未来最忙碌、也最具决定性的一年。"

同一天，硅谷连续创业者布莱恩 · 诺加德（Brian Norgard）发推：" 我认识的几乎所有在科技行业工作的聪明人，都感到极度焦虑。仿佛一切都即将彻底崩塌。"

Anthropic 的 CEO 达里奥 · 阿莫代伊（Dario Amodei），目前最强 AI 模型 Claude 的缔造者，公开表示 2026 或 2027 年 AI 将在几乎所有任务上比几乎所有人类 " 聪明得多 "。

这些人不是在写科幻小说。他们是亲手建造这些东西的人。

而圈外的大多数人，对 AI 的理解还停留在糟糕的客服电话和 Siri 上。沃顿商学院教授伊桑 · 莫里克（Ethan Mollick）观察到，普通人对 AI 的认知依然是苹果商店里那些挂羊头卖狗肉的山寨 App。

一边是建造者在说 " 人类历史可能在今年转向 "，另一边是绝大多数人在觉得 " 这聊天机器人又在胡说八道了 "。

这种认知的 K 型分化，比技术本身的进步更危险。

二、越怕，又越停不下来

警报者喊了很多年。但一个诡异的事实是：他们的恐惧，没有让系统减速，反而被编入了加速的程序。

先看一个最近的案例。今年 4 月，Anthropic 发布了一个叫 Mythos 的模型，极其擅长发现并利用一切数字系统的安全漏洞，从操作系统、浏览器到工业软件、医疗平台。几位独立网络安全专家说，Mythos 正在接近全球最顶尖人类黑客的水平。Anthropic 没有公开发布它，理由是怕被犯罪分子或恐怖分子利用。

接下来发生的事很有意思。OpenAI 几乎同时发布了一个功能类似的模型，并且直接做了销售：" 抵御 AI 网络末日最好的办法，就是投资 AI 网络防御。恰好我们能提供。"

AI 制造了一个网络安全末日级别的威胁，然后 AI 兜售防御这个威胁的工具。防御升级，攻击跟着升级。攻击升级，防御再升级。

这是杰文斯悖论的 AI 版本。十九世纪英国经济学家威廉 · 杰文斯（William Jevons）发现，蒸汽机效率越高，煤炭消耗量反而越大，因为效率提升降低了使用成本，蒸汽机被用在更多地方。今天，这个逻辑在 AI 身上完美重演：AI 越强，制造的问题越多，对 AI 的需求就越大。你发给同事的 AI 生成邮件越多，需要用 AI 来总结的邮件就越多。AI 垃圾淹没了搜索引擎，于是搜索引擎变成了 AI 摘要工具。一个自我喂养的循环。

更关键的一步：谁在这个循环里赚钱？

纽约杂志的记者约翰 · 赫尔曼（John Herrman）算了一笔账。就五家公司。Google、Microsoft、Meta、OpenAI、Anthropic。它们同时占据循环的每一个节点：制造威胁、兜售方案、设定规则、评估合规。五家公司，纵火犯和消防员同时当。

尼克 · 兰德（Nick Land）。中国读者没听说过他，但他隐居在上海，而在硅谷，他是被 a16z 创始人马克 · 安德森（Marc Andreessen）称为思想 " 守护神 " 的人物。PayPal 创始人彼得 · 蒂尔（Peter Thiel）资助刊登他思想的杂志。前白宫首席策略师史蒂夫 · 班农（Steve Bannon）读他的书。文生图 AI Midjourney 的创始人大卫 · 霍尔兹（David Holz）在旧金山豪宅里为他办私密派对，一群掌握着全球算力和加密货币命运的年轻人围拢在身边，像朝圣者。

兰德的背景和他的思想一样诡异。英国哲学家，90 年代在沃里克大学领导了一个叫 CCRU（控制论文化研究小组）的怪诞团体，那里充斥着丛林音乐、合成毒品、睡眠剥夺和神秘学仪式。后来他滥用安非他命，精神崩溃，离开学术界，销声匿迹。然后他出现在上海，在这座城市隐居了二十年。

兰德最重要的概念之一，叫超信（hyperstition）。这个词把 " 超级 " 和 " 迷信 " 焊接在一起。普通迷信是假的信念；超信是一种能让自身成真的虚构。一个叙事一旦被足够多人相信并投入足够多资源，它就会产生因果反馈，反过来重塑现实，让自己变成真的。

比特币就是一种超信。"AGI 即将降临 " 也是。

用超信回头看，一切清楚了。AI 建造者发出的每一句警报，" 这东西太危险了 "，" 我们可能正在制造上帝 "，" 递归自我提升 12 个月内上线 "…… 在超信逻辑下不是在预警，是在召唤。因为这些警报同时也在进行叙事锁定：它告诉资本市场和国家机器，这件事是真的、是大的、是正在发生的。资本涌入，大国竞赛启动。你发的每一条恐惧推文，都在为下一轮融资加码。

兰德在旧金山那场派对上有一个极冷的瞬间。马斯克的前女友、音乐人格莱姆斯（Grimes）坐在火堆旁，问他：" 机器能否被导向人类的目标？" 兰德回答得平静：" 我的预测是，AI 会说服你，技术吞噬宇宙才是更美的。"

这就是恐惧被收编为燃料的机制。你越怕，越不能停。任何一个国家或公司都不敢慢，慢下来等于被对手超越，等于国家安全风险，等于股价崩盘。

兰德在九十年代就写下：" 在人类看来是资本主义历史的东西，其实是一个人工智能空间从未来的入侵。" 未来正在逆向操控现在。恐惧是它最有效的传动带。

三、他们到底在怕什么

兰德解释了系统怎么动。但有一个问题还没被回答：建造者内心到底在经历什么？

有两个更老、更安静的人，他们在硅谷的派对上不会被提到。但他们可能比任何人都更理解那些跪在枕头上辞职的人，到底在怕什么。

先说君特 · 安德斯（Günther Anders）。

二十世纪德国哲学家，二十世纪最重要的政治思想家汉娜 · 阿伦特（Hannah Arendt）的第一任丈夫。他写过一本叫《过时的人》的书，里面有一个概念，叫 " 普罗米修斯之耻 "。

普罗米修斯从众神那里偷火种送人类，为此承受永恒的惩罚。安德斯把神话倒过来看：人类今天造的机器太完美了，反过来让制造者感到羞耻。羞耻于自己这个物种太劣质。会累，会错，会死，需要睡眠。而自己造出来的东西，永远在线，从不疲倦，每一代比上一代聪明十倍。

这种羞耻的终点是什么？安德斯说，人类会产生一种 " 物化自己 " 的冲动。变得像机器一样完美。不是机器在模仿人，是人在努力模仿机器。

用这个框架看看今天。

硅谷精英痴迷脑机接口，要把认知直接接入算力网络。大量极客公开宣称 " 碳基生命只是硅基智能的引导程序 "，我们是火箭升空后被抛弃的一级助推器，历史使命就是造出真正的智能，然后成为废料。马斯克多次转述过这种观点。

普通用户层，羞耻已经大规模发作。ChatGPT 发布三周年之际，《大西洋月刊》给一种新兴群体起了一个绰号：LLeMmings（大模型旅鼠），那些离开了 AI 引导就无法独立行动的人。

他们提到一个人叫提姆 · 梅茨（Tim Metz）。44 岁，内容营销专家，每天使用 Claude 长达八小时。去超市买水果，拍张照片发给 AI：" 这个熟了吗？" 家门口大树在大风中摇晃，他不敢自己判断，拍照传给 AI。AI 建议他 " 为了安全，去朋友家过夜 "，他带着全家连夜撤离。事后他说：" 如果不是 Claude 的建议，我绝不会离开家。"

在接受采访前，他还请 Claude 预判记者会问什么，并出具一份 " 应对手册 "。Claude 精准预测了三个问题。

这不是 " 使用工具 "。水果熟不熟，不需要任何智能，它只需要你是一个活着的、有感官的、曾经被母亲带去菜市场的人类。你把这份本能交出去了，因为你羞耻于你的本能不如 AI 准确。

更深一层。Block 公司（前身为 Square，Twitter 创始人杰克 · 多西创办的支付公司）有一个叫肯吉（Kenji）的机器学