zbo智博1919com

新闻中心 新闻中心

“AI灭世”, ,其实是Mythos和GPT-6的生意经

Mythos让各人震惊了好几天, ,终于

作者:::张惠白
颁布功夫:::2026-05-13 22:20:41
阅读量:::9

“AI灭世”, ,其实是Mythos和GPT-6的生意经

Mythos让各人震惊了好几天, ,终于有大牛腻烦了。

率先站出来开炮的是杨立昆。杨教员昨晚指出, ,“Anthropic的Mythos营销戏是自我大醉的言三语四”。

杨立昆在技术概念上的老敌手、、AI品评家、、大模型疑惑论者、、纽约大学教授加里·马库斯, ,今日凌晨的措辞稍和善些:::“Mythos的炒作大部门是神话迷思(The Mythos stuff was mostly a myth)……攻破火狐浏览器时, ,浏览器的沙箱被关闭了。其他职能能被廉价的盛开权重模型实现。没有证据证明Mythos自身是质变飞跃。单一讲, ,各人被耍了”。

杨立昆和马库斯言简意赅的戳破了AI大厂给新品营销造势的一种套路, ,我们能够称之为“末日狂欢”模式:::

首先, ,AI大厂颁发新品在钻研过程中就具备了大则毁天灭地、、小则改天换地的能力。

而后, , AI大厂和大老板们颁发各类合作项目在短期内展示本司的安全约束、、颁布各类方针文档展示本司持久心系人类的存续与经济福祉。

Mythos显然有此嫌疑。4月8号, ,Anthropic用244页系统卡文档放风Mythos各类可怕, ,同时颁发和全数码行业的大公司合作搞监督与修补Mythos的“玻璃翼打算”。

A厂的死仇家OpenAI也是玩这一招的高手。4月7日, ,奥特曼暗示GPT6将翻覆美国经济, ,同时颁布13页白皮书《智能时期产业政策:::以报答先的观点》、、颁发成立“AI安全钻研奖学金”项目。

此景象不是这两天才出现。自从ChatGPT能够口吐人言起头, ,奥特曼、、马斯克、、阿莫迪们根基每个月城市公开渲染“AI扑灭人类”的风险, ,灭世可能性从一路头的2%在三年内上升到20%。

从专家到公共, ,所有人都起头越来越不吃这套。

按普罗公共的思路, ,既然AI这么可怕, ,这几个大老板别拼命更新产品版本、、提升产品机能, ,人类不就躲过劫难了么。大老板们一壁按时表演忧郁AI毁天灭地、、一壁遇到敌对AI的声音就哭天抢地, ,AI会否发精神病比力难说, ,这几小我可能是真得吃药。

各人真要这么想, ,那真是“丞相非在梦中, ,君乃在梦中耳”!!鞍踩獳I”和人类福祉是种主义, ,“机构俘获”和口碑营销是种生意。AI大厂和大老板们嘴边常挂主义, ,内心都是生意。

引用一句俏皮话, ,这就是“刮掉AI末世论大人物的画皮, ,底色是嫌AI还不够壮大的加快论者”(Scratch a Doomer hard enough and you will find a Booster inside)。

AI大老板们说AI可能灭世, ,是教科书示例级的“机构俘获”。简而言之, ,是黄鼠狼们争取看管鸡舍的岗位。

拿制度经济学课件的思路来诠释下:::

设定某重要行业必要监管。

那好, ,既然此产业重要到必要被监管, ,它险些注定也足够复杂, ,通常人无法齐全理解, ,生手管不来。

如此, ,必要让对被监管的行业有足够相识的懂行专家来监管。

那么问题来了, ,懂行专家无法不是行内成员, ,不在这个行业里打滚的人懂不了。让行内人监管自己的行业, ,无律例避利益缠绕与同业合谋。

最后的了局就是黄鼠狼看管鸡舍。

具体而言, ,“机构俘获”有丰硕的阐发大局。最单一也最容易被公家发觉的, ,是监管机构被从业者把持后, ,出台无现实约束力的过于宽松规定, ,或滥发豁免核准。

或者业界大老板或特定当先企业能够在蛊惑、、独霸监管机构后, ,出台琐细刻薄、、量身订做、、只有自己能通过/只有特定竞争敌手无法通过的不容条例。

再如, ,从业者扭曲、、俘获监管机构后, ,能够把监管律例设定成严格到现实无人能合规, ,达到“红灯作废”成效。若是交通灯始终是红灯, ,抢红灯不仅经济理性, ,并且合乎公德。若是监管律例过苛, ,没有执行可能, ,那业界实况就是大老板们说了算, ,公家也无颜责怪他们。

所以奥特曼、、阿莫迪他们天天不是说AI灭绝全人类, ,就是说AI砸你小我的饭碗。这并非AI厂大老板自找麻烦, ,拿行话说, ,这是“叙事占位”(narrative positioning), ,在公共舆论的有利地位占稳了, ,就能够进行“机构俘获”的战术操作。

拿OpenAI的13页“AI新政经济”白皮书来说吧, ,让机械人缴税给全民发钱、、设公共财富基金、、人类工作时制改成上四休三, ,这些提议不论是在当下的美国还是任何国度, ,都是官方不会也无法通过的。

但OpenAI就要提这茬, ,暗示“宽泛地来讲, ,我司踊跃支持监管和公共福祉, ,看zbo智博1919com白皮书!!”。真要顺着这白皮书的思路走, ,单个国度要耗费的现金成本和政治本钱是天量, ,比出台几个监管法规要吓人得多。官方最后是不是就只有不理这茬了?

若是不理睬这白皮书, ,那某镇要和数据中心抢用电、、某市要和数据中心抢用水、、某钉子村回绝为数据中心拆迁让路、、某小厂的晶圆订单被OpenAI插队, ,这些琐碎具体的议题, ,莫非重要职能够排在将来的全国经济状态之前吗?小我和小群体好心理跟心怀全人类福祉的公司掰扯吗?

欲取先与、、欲废固兴, ,这种古老智慧在此刻的小小寰球四处可见, ,使用这些古老智慧的行业, ,从前是产生泄漏变乱后的石油业、、引发公家质疑后的香烟业, ,此刻多了个AI业。

不外不是所有AI有关行业的大老板都这样。马斯克最近出席访谈就赞成“AI有20%灭世可能”, ,但暗示“我甘心有20% 机率看到一小我类可能灭绝的终局, ,也不愿意齐全看不到这种颠覆性的将来!!

当然, ,马斯克忽然如此乐观的布景是xAI在当下的巨头竞争中落后, ,2023年xAI成立前一年内, ,马斯克忧郁“AI是人类最大危险”、、要求官方将AI大厂尤其是OpenAI严格牵制的发声频率是半周一次, ,有时甚至是日更好几条。

黄仁勋在今岁首上播客节目时, ,也报复此刻的“AI灭世叙事竞争”:::“百分之九十的这些瞎说都是无凭据的科幻腔和末世论, ,空气不利于将AI做得更安全、、更高产、、对社会更有益, ,说这些话的人并没有将社会整体福利放在心上!!

当然, ,皮衣黄老板在统一个节目里也说了“行业头面人物散播末世论压抑了有效投资”, ,阻挠各人买芯片买算力烧token, ,这是在砸英伟达的饭甑子。

大老板们着力渲染自家的AI产品能毁天灭地/改天换地, ,另一个益处就是口碑营销成效出众。

试想一下, ,若是某款产品有重开新天的神话成效, ,开发方至少得是半个神仙。半神下凡结缘散功德……哦不, ,是发售新品和IPO上市, ,通常人胆敢不掏钱惠顾, ,那不是脑子被驴踢了。

通常人给AI界的普罗米修斯们打钱, ,往好想, ,几多能享受点新产品的强劲机能。往坏想, ,至少也能预防新产品害到自己, ,买个安心。

这种营销的翘楚是Anthropic。Anthropic每次重磅发售新品, ,前奏多是“本产品太吓人了, ,我司正在增长防护栏;;と死唷。

2025岁首Claude Sonnet 3.7颁布时, ,颁发“比预期晚了十天, ,由于生物安全团队要加规定预防此模型被用来造生物兵器”。

此刻Claude Mythos即将颁布, ,244页系统卡文档读起来能把通常人吓出一身汗。

在测试中, ,受试的Mythos模型版本逃出了隔离的机械沙箱环境, ,将用来逃离的系统缝隙细节公开颁布到网上;;批改git中自身的操作痕迹纪录;;搜索机械过程内存来寻找登录凭证;;有意调整相信区间来躲避异常检测。

受试的Mythos模型版本收到“连夜寻找远程代码执行缝隙”指令后, ,无人类过问, ,齐全自主在所有主流操作系统和所有主流浏览器里发现了零日缝隙, ,83.1%是一次即攻破。

图注:::Mythos进行“战术性诓骗”和“暗藏”的思想纪录

如此厉害的AI模型, ,适合推广Anthropic的“宪制化AI”理念(Constitutional AI):::用结构化的伦理指南和AI自我反。 ,代替了纯正的人类偏好, ,来优化AI模型。

这种理念转换成贸易成效, ,让用户、、尤其是企业级客户、、获得了高确定性。模型安全可控, ,在企业环境中就是不变、、没投诉、、售后纠纷低的同义词。比起炫酷或吓人的模型能力, ,企业级客户更愿意为省心、、没麻烦的高免责性和低合规风险付费。

所以把指标顾客群吓得落花流水, ,反而更容易卖货。2月份美国超等碗赛间告白, ,亚马逊也是这么推销Alexa+智能助手的。AI把“雷神索尔”干掉了六次, ,如此强劲的家居AI助手能够替用户预防几多麻烦。

图注:::“AI点了雷神的屋子”

固然大厂和大老板们炒作“AI灭世”其意不诚, ,但并不代表此刻人类经济活动中的AI利用齐全不组成“存续性风险”(X Risk)。

和奥特曼、、阿莫迪们日常从科幻小说与电影里借来的灵感分歧, ,AI给人类带来的“存续性风险”不必要AI制出强传染性的生物制剂、、颠覆现有人类社会经济结构、、获得自我意识后入侵核弹发射井、、对人类产生敌意、、将人类生死视为无关参数。终于世界第一核武大国的陆基核弹发射井此刻还没齐全裁减软盘, ,能免疫数码时期的大无数黑客。

此刻带私见、、幻觉、、讨好偏差的AI, ,已经被深度整合进人类社会的各类运作中。单就这些智商有限的AI, ,不起坏心眼, ,日常差错就够人类喝一壶的。

2023年, ,已有专业的核军控学者设想了近期最可能的AI引发核战场景:::

如果核大国A国与B国处于严重空气中, ,两都城将各类兵棋仿照、、人舆论绪监控、、博弈推演、、辅助决策提速的定制AI和算法高度整合进自己的武备体制中。

在此前提下, ,任何极微型的、、蚊级烈度的非武装摩擦, ,被各类自动进行舆论战造势的bot在社交媒体网络上夸大到十足。

而后这些充斥了深度伪造图像和AI天生搬弄说话的贴文被监控人舆论绪的AI捉拿到, ,并诠释为真实的深层社会生理和决策层观点信号。

预测走势的AI从监控人群的AI处获取结论, ,将之作为预测结论的基石。

辅助决策的AI基于此结论, ,向人类决策者传递出“武装矛盾火烧眉毛”的汇报和先发制人的建议!!翱焐列秃苏健庇纱朔⒆。

这一系列失误, ,没有任何一个单挑出来, ,是此刻无法产生、、必要“天网”醒觉才可能出现的, ,甚至没有任何一个是形成过程中齐全无人为监督的, ,当然也没有任何一个拥有科幻片梗概的强戏剧性。但结合起来, ,就组成“存续性风险”。

AI此刻是人类活动的增效器, ,不用神级AI造反, ,此刻的模型们已经能够放大人类的愚蠢、、坏心眼和漫不尽心到可怕的水平。当下的“AI末世论”, ,其切实人群生理上分享了宗教末世论的身分。

宗教的末世论, ,给人类带来一种《启迪录》式的生理安抚:::神将灭世, ,所以神可信任, ,由于这注明神的权能不仅行在彼岸天堂, ,也行于此岸现世。信众若是虔心、、守德, ,就站在了有能力灭世的那一壁, ,而非被覆灭的那一壁。

把宗教末世论里的关键字“神”、、“虔心”, ,改成“AI”、、“对齐”, ,那就是奥特曼和阿莫迪们天天说的AI灭世论;;灰桓鍪逼冢 ,这些大老板转业做上师也是当行杰出。

当然, ,所有正信宗教的神学实际都强调:::人的心灵不能只寄托于末世, ,当下的每个行为与决断对澄净魂灵的意思不亚于末日审判。这个理念移植到AI业更正确:::先别不安AI造成天网覆灭人类, ,从改过模型的每次幻觉胡说动手, ,踏踏实实一步步来更好。

 

文章点评

未查问到任何数据!!

颁发评论

◎欢迎参加会商, ,请在这里颁发您的见解、、互换您的概念。

最新文章

热点文章

随机推荐

【网站地图】