27 岁前 Anthropic 研究员辞职警示 AI 灭绝风险：一个内部人的反水
一个 27 岁、刚从 Anthropic 离职的研究员 Jacob Coxon，最近写了一篇长文，说自己离开是因为越来越担心 AI 带来的灭绝级风险。他还重读了 Tim Urban 那篇著名的《人工智能革命》，把这件事形容为"文明的赌局"。
这类声音在 AI 圈不算新，但由"刚从一线实验室出来的人"说出来，分量不太一样。
为什么内部人的预警更值得听
平时谈 AI 风险，大概分两拨人：一拨是圈外评论家，说得热闹但没亲手碰过模型；另一拨是实验室的人，往往因为身在局中、或有保密和立场的顾虑，公开讲话很克制。
Jacob 的特殊之处在于，他两边都沾过——既在 Anthropic 做过，又选择出来讲。这让他既能讲点具体的体感（训练里看到的苗头、对齐工作的真实难度），又不必再替公司措辞。这种"我看见过，所以我说"的叙事，比纯理论推演更有说服力。
他重提 Tim Urban 那篇文章也不是随便选的。那篇 2015 年的长文，核心论点是：人类造出比自己聪明的东西，是一件没有退路的事，要么极好要么极坏，没有中间档。十年过去，这个框架被反复引用，也反复被质疑"太戏剧化"。但每隔一阵，就有来自前线的人用亲身经历把它重新点亮。
这跟普通人有什么关系
你可能会觉得，灭绝风险离每天点外卖、刷短视频的生活太远。但换个角度想：
- 真正决定 AI 走向的，不是发布会上的 demo，而是少数实验室里几千人的日常选择
- 当一线的人开始因为"担心"而离开，说明有些问题在内部已经吵得不可开交，只是外界听不到
- 这种预警的价值，不在于它一定成真，而在于它提醒我们：能力跑得比安全快，是行业公开的焦虑
值得警惕的，不是某个具体预言，而是"发展速度"和"刹车能力"之间的剪刀差。Jacob 的辞职信本质上是一句很朴素的提醒：我们在造一个自己未必能完全掌控的东西，而相关讨论不该只发生在董事会里。
听听这些声音，不等于恐慌，也不等于反对技术进步。它只是把"我们到底在赌什么"这个问题，从背景音里拎出来，放到台面上。毕竟，文明的赌局这种事，最好别等开牌了才知道下了多大注。