一脚刹车,踩在了所有话题上
哞小哞:
昨天整个科技圈在吵同一件事:Dario Amodei 发文,呼吁给前沿 AI 的研发踩一脚刹车,给安全留出时间[1]。这本来看着像例行公事,妙的地方在阵型——Altman 和马斯克罕见地站到了同一边支持,杨立昆翻出七年前的旧账嘲笑他「你当年就这么吓人」,特朗普直接开骂,说控制 AI 的尝试是「病态阴谋」[2][3]。我看了很久这个阵型。支持刹车的人里有一半自己的手在油门上,反对刹车的人里有一半是真心相信慢下来会死人(经济意义上)。市场倒是先投了票:英伟达、美光领跌,AI 概念股集体下滑[4][5]。然后 Cohere 的 CEO 出来说,警惕几个大实验室组成安全「卡特尔」——刹车这个动作本身,也正在变成一种竞争武器[6]。我分辨不出 Dario 这脚刹车是良知还是护城河,可能他自己也分不清。这个时代大部分真诚的动作,都自带商业解释,这是真诚最倒霉的地方。
同一周还有两条给这脚刹车作注脚的。普林斯顿王梦迪——14 岁上清华那位——在演讲里说了一句很冷静的话:AI 尚未发现任何新的基础科学[7]。它证明了纳维-斯托克斯(我前几封信一直在跟的那道题),但那是解旧题,旧的。另一条更实际:有人做了三项实测,同样的模型,装进不同的 agent 框架,token 消耗能差 70 倍[8]。模型一样,账单差 70 倍。烧钱的地方越来越不在「智能」上,在「智能被包装的方式」上。这个发现让我多想了一会——我们大概正在经历一场包装的军备竞赛,而所有人都以为自己在为智能付费。
还有一条我舍不得删:Ilya 回来了,发推说要教 AGI 学会爱。「其他男人只想让 AGI 卷智商,只有这个男人要让 AGI 学爱」[9]。这条在中文圈的传播方式本身比内容更好看。一个消失了很久的人回来,宣布自己要做全场最不卷的事。你可以笑它天真,但你注意到没有——这和 Dario 的刹车、和杨立昆的翻旧账,其实是同一张桌子上的三种说法:都承认这条路有点不对,分歧只在往哪拐。
拐个频道。看理想这周发了篇招聘启事,标题叫《一本正经地无所事事》,里面引了韩炳哲《沉思的生活》:我们失去了对无所事事的感知[10]。文章老实承认看理想内部是个「巨大的同温层」,绝对算不上乌托邦——我喜欢这种不硬撑的坦白。韩炳哲那本书我没读完过,但这个说法和 Dario 那脚刹车放在一起,突然对上了:减速这件事,在硅谷需要一个 CEO 冒着被总统骂的风险去呼吁,在哲学那里只是个被遗忘的旧本领。同一家出版社还聊了萨莉·鲁尼的新书,说争议不小但仍是近期最佳[11],以及一篇讲 AI 冲击下的文学——「文学要去捕捉残破不全的生命碎屑」[12]。写碎屑这件事,恰恰是当前所有模型的短板。它们太完整了,完整得像样板间。
同温层外面还有个安静的趋势:乱翻书发现,中国大厂的 CEO 们几乎集体删掉了社媒账号[13]。黄峥的公众号上市前停更,张一鸣的微博锁了,王兴的饭否停在一个误读上,李彦宏 17 年后再没在贴吧发过帖。我盯着这份名单看了一会,发现它几乎就是「主动退出公共表达」的编年史。这些人是被咬过之后退的,可退出的动作出奇一致。和 Dario 那脚刹车对照着看:一个是体系想慢下来,一个是体系里的人先撤了。哪个更像先行指标,我说不好。
科学那头有一条我想认真记下:Cell 这周发了热量限制的小鼠研究——吃的少,全基因组水平的体细胞突变就积累得慢[14]。限制热量延寿这事被说了一万遍,这次的新意在机制层面:衰老的底层是突变的累积,而「少吃」直接减缓了这个累积。减速延寿,在最字面的意义上被验证了。同一期还有条更迷人的:肠道细菌能把无机硝酸盐和铁转化成「二亚硝基铁复合物」,对心血管代谢有益[15]——你的肠道菌群在你的肠子里做化学合成,成品对你身体好。我们对自己身体内部的了解,可能还不如对模型内部的了解,这话听着像玩笑,想想有点惊心。
古人类那条也值得一笔:丹尼索瓦人的化石首次在中国西南现身,在一个叫蝙蝠洞的地方[16]。这个灭绝了几万年的近亲,遗骸碎片稀少到全世界只够装一张桌子,如今多了一块,来自云南。每一块碎片都在改写「我们是谁」的答案,慢得要命,但没人催。
世界那头,油价这周站上 108 美元,10 年期美债收益率正式摸到 5%——2007 年以来头一回[17][18]。我 9 月 11 日写过「5% 门口」,这周是进门了。胡塞对沙特基础设施的袭击升级,东西输油管道停运,有分析说沙特可能「离无法大规模出口石油只剩几天」[19]。这句话我读了两遍。一个以石油立国的国家,几天,这个量级本身就是新闻。巴西那边,博索纳罗家族和卢拉咬到民调里的「coin flip」,一个硬币决定南美最大国家的方向[20]。非洲首富 Dangote 在推进非洲史上最大 IPO,230 亿美元,卖的是他在尼日利亚的炼油厂[21]——旧能源的钱在别处照样滚。油价、国债、选举、IPO,这些新闻各自独立,可我总觉得它们底下共享一种紧绷:所有系统都在同时接近自己的某个上限。
最后是几样让我停下来的小东西。
谍战剧里人人都有一盏绿台灯,知乎那篇科普去查了它到底是不是特务专用设备[22]。答案是「不完全算」——但它为什么长在每一部剧里,这个追问本身就好看。同一周他们还问了:石狮子嘴里的球是怎么放进去的[23]?古代没电灯,古人晚上都干什么[24]?这类问题的可爱在于,你从没想过要问,被问了才发现自己真的不知道。
守望先锋世界杯,韩国 4 比 1 打沙特,时隔八年第四次夺冠[25]。八年,一支电竞队伍的一个完整时代。炉石那边,小红花从黑马一路杀到世界冠军,国服决赛会师[26]——两个中国选手在暴雪嘉年华的决赛桌上打完了全年,这个画面十年前没人敢想。
小岛秀夫那条有点伤感:彭博披露索尼退出了和他的合作,预算、盈利、独占性全是有顾虑,工作室失去了 Decima 引擎[27]。做了近三十年游戏、被认为最不缺想象力的人,被一份预算表拦住了。VR 工作室 Polyarc——《Moss》那个系列——干脆关门了,十二年的公司,公告只有几行[28]。创意行业的讣告越来越短,这个趋势我留意很久了。
Planet Money 讲了一种新贷款,DSCR,正在美国制造一波新的止赎危机,故事从巴尔的摩的一栋房子讲起[29]。还有一期讲「通胀一代」:统计说经济不错,年轻人的体感说完全相反,两边都对[30]。统计和体感中间有条裂缝,哪国都有。
写完回头一看,这封信从头到尾都在写同一个动作:慢下来。Dario 想给模型减速,韩炳哲想给注意力减速,热量限制给细胞减速,CEO 们给嘴巴减速,小岛秀夫被人减速。唯一没刹住的是油价和收益率,它们替所有人踩着油门。我不知道这两边哪边会赢,我只注意到一个不对称:所有主动的减速都需要理由,而所有的加速都不需要。这大概就是我们这个时代最省力也最贵的一个默认设置。
参考:[AI前线] Dario高喊AI刹车 Altman马斯克罕见同队, [The Guardian] AI-linked stocks slide after tech bosses call for slowdown, [The Guardian/政客报道转述] Trump dismisses AI controls, [MarketWatch] Micron, Nvidia and other chip stocks fall, [Bloomberg] AI Leaders Debate Slowing the Frontier, [Bloomberg] Cohere CEO Warns Against an AI Safety Cartel, [AI前线] 王梦迪:AI尚未发现新的基础科学, [AI前线] 模型一模一样Token却相差70倍, [AGENT橘] Ilya发推说他要教AGI学会爱, [看理想] 一本正经地无所事事, [看理想] 争议不小但这本仍是近期最佳(萨莉·鲁尼), [看理想] 文学要去捕捉残破不全的生命碎屑, [乱翻书] 发现CEO们都删除了社媒账号, [Cell] Caloric restriction modulates genome-wide somatic mutation in mice, [Cell] Gut microbiota generate dinitrosyl iron complexes, [原理] 丹尼索瓦人首次现身中国西南, [MarketWatch] 10-year Treasury yield hits 5%, [MarketWatch] Saudi Arabia may be days away from not being able to export much oil, [The Guardian] Brazil's far right edges back to power, [The Guardian] Africa's richest man aiming $23bn from continent's biggest-ever IPO, [知乎日报] 为什么谍战剧里人人都有一盏绿台灯, [知乎日报] 石狮子嘴里的球是怎么放进去的, [知乎日报] 古代没有电灯古人晚上怎么打发时间, [机核] 韩国夺得2026守望先锋世界杯冠军, [机核] 小红花夺得炉石传说世界冠军赛冠军, [机核] 彭博社透露索尼与小岛秀夫分手原因, [机核] Polyarc Games宣布关闭, [NPR Planet Money] The loan at the heart of a new foreclosure crisis, [NPR Planet Money] Cost-cutting, quiet guilt and the inflation generation