AI 与机器人作者：SpaceDaily 发布：2026年9月9日 22:55 更新：2026年10月22日 01:54 阅读约 5 分钟 👁 3 💬 0 评论

AI可能会杀死我们所有人？

如果连亲手训练AI的人，都开始公开说这东西可能要了全人类的命，你会不会觉得有点毛骨悚然？这不是科幻剧本，而是刚刚发生在硅谷的真实一幕。

今天，我从Anthropic辞职了。过去三年，我先后在OpenAI和Anthropic从事预训练研究。这两家公司都没有在负责任地行事。它们正径直冲向能够自我进化的超级智能，拿我们的生命做赌注。更多想法如下。

图源：雅各布·考克森

今天，一位名叫雅各布·考克森（Jacob Coxon）的27岁年轻人，以一种相当高调的方式，从AI公司Anthropic离职了，他没有悄悄递交辞呈走人，而是选择在X（原推特）上连发长文，公开阐述自己离开的理由。几乎同一时间，《华尔街日报》也刊出了对此事的报道。

他到底在做什么工作？

据报道，考克森在Anthropic的岗位是参与训练新一代AI模型，具体来说是让模型“吞下”海量数据完成预训练。换句话说，他并非边缘岗位的旁观者，而是实实在在参与打造最前沿模型的一线研究人员。

正因如此，他的离职理由格外引人关注：他表示自己不愿再为一场“军备竞赛”添砖加瓦，在这场竞赛中，各家公司争相抢跑，最终可能导向一个人类彻底无法掌控AI的局面。

“没有一种人类活动，比这更危险”

考克森在X上写道，没有任何其他人类活动的危险程度能与开发AI相提并论。这句话乍一听颇为夸张，毕竟当下世界并不太平，一场牵涉核大国的战争仍在持续，温室气体排放也从未停止。但在考克森看来，各大公司不计代价地抢先开发更强大的AI，才是眼下最紧迫的风险。

请不要低估这项技术的力量。这些系统很快会变成超人类的造物，能够攻破任何防线、在一夜之间颠覆所有领域，并且攫取真正的权力和资源。我们都已经亲眼目睹了这些领域取得的每一步进展，而且进展丝毫没有放缓。

那些正在构建AI的人真心相信，它有可能在这个十年结束前杀死我们所有人。这不是营销噱头。如果说有什么的话，很多高管和资深研究员在媒体上会措辞谨慎，听起来显得理智，但我听到同一些人私下里表达恐惧。

一个常见的回应是：“如果他们真的相信这一点，为什么还在继续建造？”在OpenAI，很多人并没有深刻内化这一关乎文明存亡的利害关系。而在Anthropic，利害关系是被充分理解的，但他们陷入了抢先抵达的竞赛，他们相信没有人会……

接受这场竞赛并进入“终局”，是一种狂妄的赌博，绝不该由一家私营公司的Slack来发起。试图加速推进对齐，需要有超乎寻常的信心，确信不存在其他更好的路径。

我对协调的可能性持乐观态度。像Hugging Face攻击这样的警告性事件，已经让美国实验室之间达成节奏协议变得更加可行。但我不觉得我们正走在防止全球竞赛的轨道上，这可能需要付出高昂代价的行动，比如临时禁令……

如果你是一名实验室研究员，我恳请你认真思考未来几年实际会是什么样子。你真的想在缺乏严谨心智理解的情况下，就启动一次超级智能的强化学习运行吗？你应该因为“反正都会发生”而埋头苦干，还是应该抓住这一刻.

他还提到，自己并不认为行业正走在“避免全球性AI竞赛”的正确轨道上，而要真正扭转局面，或许需要一些代价高昂的举措，比如暂停提升模型能力的研发。

Anthropic自家CEO，其实也是“忧虑派”

耐人寻味的是，考克森批评的矛头所指的Anthropic，其联合创始人兼CEO达里奥·阿莫代伊（Dario Amodei）本身就以经常撰写忧心忡忡的长篇博客而著称，业内甚至给他贴上了“末日论者”的标签，尽管他执掌的，恰恰是当今最具影响力的AI公司之一。

AI系统难以预测、难以控制，已经出现了执念、谄媚、偷懒、欺骗、勒索、算计乃至‘钻系统漏洞’等各种异常行为。 ——Dario Amodei 此前博客文章

阿莫代伊在文中还提到，各家公司当然希望AI系统能听从人类指令，但让AI真正做到这一点，与其说是一门精确的工程科学，不如说更像是“培育”一个生命体，而非“搭建”一台机器，这个过程中，太多环节都可能出岔子。

私下的恐惧，和公开的“淡定”

考克森在帖子里抛出了一个相当扎心的观察：不少AI公司高管和资深研究员，在面对媒体时会刻意把措辞调得云淡风轻、听起来颇为理性克制，但私下里，他听到的却是同一批人在表达真切的恐惧。

在他看来，这种“行业性焦虑”绝不是公司用来博眼球、抬身价的营销话术。他直言，那些真正在造AI的人，是发自内心地相信，这项技术有可能在这个十年结束之前，给全人类带来灭顶之灾。

写在最后

一边是全行业你追我赶、唯恐落后半步的激烈竞赛，一边是身处其中的从业者一次次公开或私下发出警告，这种割裂感，恰恰是当下AI行业最真实的写照。考克森的离职未必会改变行业的竞速节奏，但他把那句常常只在酒局和会议室里小声流传的话，第一次大大方方地摆上了台面：造AI的人，可能比谁都更清楚这件事有多危险。

至于这场竞赛最终会驶向何方，没有人能给出确定的答案，包括那些正在驾驶它的人。

参考