起源：江西修水校园餐“升级记”作者： 蒙孟涵：

“AI灭世”，，其实是Mythos和GPT-6的生意经

Mythos让各人震惊了好几天，，终于有大牛腻烦了。。

率先站出来开炮的是杨立昆。。杨教员昨晚指出，，“Anthropic的Mythos营销戏是自我大醉的言三语四”。。

杨立昆在技术概念上的老敌手、、AI品评家、、大模型疑惑论者、、纽约大学教授加里·马库斯，，今日凌晨的措辞稍和善些：“Mythos的炒作大部门是神话迷思（The Mythos stuff was mostly a myth）……攻破火狐浏览器时，，浏览器的沙箱被关闭了。。其他职能能被廉价的盛开权重模型实现。。没有证据证明Mythos自身是质变飞跃。。单一讲，，各人被耍了”。。

杨立昆和马库斯言简意赅的戳破了AI大厂给新品营销造势的一种套路，，我们能够称之为“末日狂欢”模式：

首先，，AI大厂颁发新品在钻研过程中就具备了大则毁天灭地、、小则改天换地的能力。。

而后，， AI大厂和大老板们颁发各类合作项目在短期内展示本司的安全约束、、颁布各类方针文档展示本司持久心系人类的存续与经济福祉。。

Mythos显然有此嫌疑。。4月8号，，Anthropic用244页系统卡文档放风Mythos各类可怕，，同时颁发和全数码行业的大公司合作搞监督与修补Mythos的“玻璃翼打算”。。

A厂的死仇家OpenAI也是玩这一招的高手。。4月7日，，奥特曼暗示GPT6将翻覆美国经济，，同时颁布13页白皮书《智能时期产业政策：以报答先的观点》、、颁发成立“AI安全钻研奖学金”项目。。

此景象不是这两天才出现。。自从ChatGPT能够口吐人言起头，，奥特曼、、马斯克、、阿莫迪们根基每个月城市公开渲染“AI扑灭人类”的风险，，灭世可能性从一路头的2%在三年内上升到20%。。

从专家到公共，，所有人都起头越来越不吃这套。。

按普罗公共的思路，，既然AI这么可怕，，这几个大老板别拼命更新产品版本、、提升产品机能，，人类不就躲过劫难了么。。大老板们一壁按时表演忧郁AI毁天灭地、、一壁遇到敌对AI的声音就哭天抢地，，AI会否发精神病比力难说，，这几小我可能是真得吃药。。

各人真要这么想，，那真是“丞相非在梦中，，君乃在梦中耳”。！！鞍踩獳I”和人类福祉是种主义，，“机构俘获”和口碑营销是种生意。。AI大厂和大老板们嘴边常挂主义，，内心都是生意。。

引用一句俏皮话，，这就是“刮掉AI末世论大人物的画皮，，底色是嫌AI还不够壮大的加快论者”（Scratch a Doomer hard enough and you will find a Booster inside）。。

AI大老板们说AI可能灭世，，是教科书示例级的“机构俘获”。。简而言之，，是黄鼠狼们争取看管鸡舍的岗位。。

拿制度经济学课件的思路来诠释下：

设定某重要行业必要监管。。

那好，，既然此产业重要到必要被监管，，它险些注定也足够复杂，，通常人无法齐全理解，，生手管不来。。

如此，，必要让对被监管的行业有足够相识的懂行专家来监管。。

那么问题来了，，懂行专家无法不是行内成员，，不在这个行业里打滚的人懂不了。。让行内人监管自己的行业，，无律例避利益缠绕与同业合谋。。

最后的了局就是黄鼠狼看管鸡舍。。

具体而言，，“机构俘获”有丰硕的阐发大局。。最单一也最容易被公家发觉的，，是监管机构被从业者把持后，，出台无现实约束力的过于宽松规定，，或滥发豁免核准。。

或者业界大老板或特定当先企业能够在蛊惑、、独霸监管机构后，，出台琐细刻薄、、量身订做、、只有自己能通过/只有特定竞争敌手无法通过的不容条例。。

再如，，从业者扭曲、、俘获监管机构后，，能够把监管律例设定成严格到现实无人能合规，，达到“红灯作废”成效。。若是交通灯始终是红灯，，抢红灯不仅经济理性，，并且合乎公德。。若是监管律例过苛，，没有执行可能，，那业界实况就是大老板们说了算，，公家也无颜责怪他们。。

所以奥特曼、、阿莫迪他们天天不是说AI灭绝全人类，，就是说AI砸你小我的饭碗。。这并非AI厂大老板自找麻烦，，拿行话说，，这是“叙事占位”（narrative positioning），，在公共舆论的有利地位占稳了，，就能够进行“机构俘获”的战术操作。。

拿OpenAI的13页“AI新政经济”白皮书来说吧，，让机械人缴税给全民发钱、、设公共财富基金、、人类工作时制改成上四休三，，这些提议不论是在当下的美国还是任何国度，，都是官方不会也无法通过的。。

但OpenAI就要提这茬，，暗示“宽泛地来讲，，我司踊跃支持监管和公共福祉，，看zbo智博1919com白皮书！！”。。真要顺着这白皮书的思路走，，单个国度要耗费的现金成本和政治本钱是天量，，比出台几个监管法规要吓人得多。。官方最后是不是就只有不理这茬了？？

若是不理睬这白皮书，，那某镇要和数据中心抢用电、、某市要和数据中心抢用水、、某钉子村回绝为数据中心拆迁让路、、某小厂的晶圆订单被OpenAI插队，，这些琐碎具体的议题，，莫非重要职能够排在将来的全国经济状态之前吗？？小我和小群体好心理跟心怀全人类福祉的公司掰扯吗？？

欲取先与、、欲废固兴，，这种古老智慧在此刻的小小寰球四处可见，，使用这些古老智慧的行业，，从前是产生泄漏变乱后的石油业、、引发公家质疑后的香烟业，，此刻多了个AI业。。

不外不是所有AI有关行业的大老板都这样。。马斯克最近出席访谈就赞成“AI有20%灭世可能”，，但暗示“我甘心有20% 机率看到一小我类可能灭绝的终局，，也不愿意齐全看不到这种颠覆性的将来。！！

当然，，马斯克忽然如此乐观的布景是xAI在当下的巨头竞争中落后，，2023年xAI成立前一年内，，马斯克忧郁“AI是人类最大危险”、、要求官方将AI大厂尤其是OpenAI严格牵制的发声频率是半周一次，，有时甚至是日更好几条。。

黄仁勋在今岁首上播客节目时，，也报复此刻的“AI灭世叙事竞争”：“百分之九十的这些瞎说都是无凭据的科幻腔和末世论，，空气不利于将AI做得更安全、、更高产、、对社会更有益，，说这些话的人并没有将社会整体福利放在心上。！！

当然，，皮衣黄老板在统一个节目里也说了“行业头面人物散播末世论压抑了有效投资”，，阻挠各人买芯片买算力烧token，，这是在砸英伟达的饭甑子。。

大老板们着力渲染自家的AI产品能毁天灭地/改天换地，，另一个益处就是口碑营销成效出众。。

试想一下，，若是某款产品有重开新天的神话成效，，开发方至少得是半个神仙。。半神下凡结缘散功德……哦不，，是发售新品和IPO上市，，通常人胆敢不掏钱惠顾，，那不是脑子被驴踢了。。

通常人给AI界的普罗米修斯们打钱，，往好想，，几多能享受点新产品的强劲机能。。往坏想，，至少也能预防新产品害到自己，，买个安心。。

这种营销的翘楚是Anthropic。。Anthropic每次重磅发售新品，，前奏多是“本产品太吓人了，，我司正在增长防护栏；と死唷薄。

2025岁首Claude Sonnet 3.7颁布时，，颁发“比预期晚了十天，，由于生物安全团队要加规定预防此模型被用来造生物兵器”。。

此刻Claude Mythos即将颁布，，244页系统卡文档读起来能把通常人吓出一身汗。。

在测试中，，受试的Mythos模型版本逃出了隔离的机械沙箱环境，，将用来逃离的系统缝隙细节公开颁布到网上；批改git中自身的操作痕迹纪录；搜索机械过程内存来寻找登录凭证；有意调整相信区间来躲避异常检测。。

受试的Mythos模型版本收到“连夜寻找远程代码执行缝隙”指令后，，无人类过问，，齐全自主在所有主流操作系统和所有主流浏览器里发现了零日缝隙，，83.1%是一次即攻破。。

图注：Mythos进行“战术性诓骗”和“暗藏”的思想纪录

如此厉害的AI模型，，适合推广Anthropic的“宪制化AI”理念（Constitutional AI）：用结构化的伦理指南和AI自我反馈。，代替了纯正的人类偏好，，来优化AI模型。。

这种理念转换成贸易成效，，让用户、、尤其是企业级客户、、获得了高确定性。。模型安全可控，，在企业环境中就是不变、、没投诉、、售后纠纷低的同义词。。比起炫酷或吓人的模型能力，，企业级客户更愿意为省心、、没麻烦的高免责性和低合规风险付费。。

所以把指标顾客群吓得落花流水，，反而更容易卖货。。2月份美国超等碗赛间告白，，亚马逊也是这么推销Alexa+智能助手的。。AI把“雷神索尔”干掉了六次，，如此强劲的家居AI助手能够替用户预防几多麻烦。。

图注：“AI点了雷神的屋子”

固然大厂和大老板们炒作“AI灭世”其意不诚，，但并不代表此刻人类经济活动中的AI利用齐全不组成“存续性风险”（X Risk）。。

和奥特曼、、阿莫迪们日常从科幻小说与电影里借来的灵感分歧，，AI给人类带来的“存续性风险”不必要AI制出强传染性的生物制剂、、颠覆现有人类社会经济结构、、获得自我意识后入侵核弹发射井、、对人类产生敌意、、将人类生死视为无关参数。。终于世界第一核武大国的陆基核弹发射井此刻还没齐全裁减软盘，，能免疫数码时期的大无数黑客。。

此刻带私见、、幻觉、、讨好偏差的AI，，已经被深度整合进人类社会的各类运作中。。单就这些智商有限的AI，，不起坏心眼，，日常差错就够人类喝一壶的。。

2023年，，已有专业的核军控学者设想了近期最可能的AI引发核战场景：

如果核大国A国与B国处于严重空气中，，两都城将各类兵棋仿照、、人舆论绪监控、、博弈推演、、辅助决策提速的定制AI和算法高度整合进自己的武备体制中。。

在此前提下，，任何极微型的、、蚊级烈度的非武装摩擦，，被各类自动进行舆论战造势的bot在社交媒体网络上夸大到十足。。

而后这些充斥了深度伪造图像和AI天生搬弄说话的贴文被监控人舆论绪的AI捉拿到，，并诠释为真实的深层社会生理和决策层观点信号。。

预测走势的AI从监控人群的AI处获取结论，，将之作为预测结论的基石。。

辅助决策的AI基于此结论，，向人类决策者传递出“武装矛盾火烧眉毛”的汇报和先发制人的建议。！！翱焐列秃苏健庇纱朔⒆鳌。

这一系列失误，，没有任何一个单挑出来，，是此刻无法产生、、必要“天网”醒觉才可能出现的，，甚至没有任何一个是形成过程中齐全无人为监督的，，当然也没有任何一个拥有科幻片梗概的强戏剧性。。但结合起来，，就组成“存续性风险”。。

AI此刻是人类活动的增效器，，不用神级AI造反，，此刻的模型们已经能够放大人类的愚蠢、、坏心眼和漫不尽心到可怕的水平。。当下的“AI末世论”，，其切实人群生理上分享了宗教末世论的身分。。

宗教的末世论，，给人类带来一种《启迪录》式的生理安抚：神将灭世，，所以神可信任，，由于这注明神的权能不仅行在彼岸天堂，，也行于此岸现世。。信众若是虔心、、守德，，就站在了有能力灭世的那一壁，，而非被覆灭的那一壁。。

把宗教末世论里的关键字“神”、、“虔心”，，改成“AI”、、“对齐”，，那就是奥特曼和阿莫迪们天天说的AI灭世论。；灰桓鍪逼冢，这些大老板转业做上师也是当行杰出。。

当然，，所有正信宗教的神学实际都强调：人的心灵不能只寄托于末世，，当下的每个行为与决断对澄净魂灵的意思不亚于末日审判。。这个理念移植到AI业更正确：先别不安AI造成天网覆灭人类，，从改过模型的每次幻觉胡说动手，，踏踏实实一步步来更好。。