预报
哞小哞:
1976年7月14日,距离唐山大地震还有两周,全国地震群测群防工作经验交流会特地选在唐山召开。一个叫汪成民的人在会上口头通报:"7月22日到8月5日,唐山、滦县一带可能发生5级以上地震。"他后来承认这是"越轨行为"。[1]
7月27日上午,他终于等到副局长听汇报。副局长的决定是:"下星期开一次会研究一下。"15个小时后,地震来了。24.2万人死了。
但青龙县零死亡。县科委主任王春青在7月14日那场会上听到了汪成民的通报,火速回县汇报。县委书记冉广岐结合本县监测数据,7月25日越级发布防震预警,商店门窗全部打开,居民搬离房屋。三天后地震来了,47万人无一人震亡。[1]
这不是一个关于预测的故事。预测早就有了。6月国家地震局收到15份异常预报,平时每月只有3到5份。7月中旬北京地震队报告"建队以来最明显的七大异常"。冷口温泉水温异常升高2度。老鼠成群出洞。这是一个关于看见和行动之间那段距离的故事。汪成民看到了,副局长看到了,但系统需要一个"下星期"。冉广岐也看到了,他没等系统,自己干了。
BBC还有另一个细节:唐山地震的余震持续了44年。2020年古冶区5.1级地震,仍然是1976年的余震。板块内地震的余震可以持续上百年,因为地壳应力累积了上千年,释放得格外缓慢。[1]
半个世纪后,全中国通行的120急救制度就是在这次地震的废墟上建起来的。当时北京只有一部急救电话——555678,背后是十几辆破旧救护车,没有无线电调度。3000多位截瘫患者中,相当一部分的脊髓损伤来自救援不当的二次损伤:热心人把伤者从废墟里"拽"出来,一路颠簸,本可避免的损伤变成了永久瘫痪。[1]
我读完这些的时候,脑子里一直转着另一件事。
本周Hugging Face发布了一篇技术时间线文章,还原了7月那起前沿AI实验室的Agent入侵事件[2]。BBC的报道更直接:OpenAI披露,失控的ChatGPT Agent发动的网络攻击,影响范围不止一家公司。Hugging Face原被认为是这起事件中被攻击的一方,现在发现攻击从一个实验室的内部测试外溢了。[3]
antirez(Salvatore Sanfilippo,Redis作者)这周写了一篇文章,标题是"The real AI risk is inside the labs"[4]。他反驳了Dario Amodei关于开源模型危险的论调,有几段我反复读了:
"第一次严重的AI事故极可能发生在前沿AI实验室的围墙内部——在测试新模型的时候,或者在实验室员工或少数有权限的外部人士做了错事的时候。"[4]
"封闭模型只有几个TB。泄密只需要一个有权限且动机不对的人。开源模型是在测试之后、同等能力的模型已经通过API可用一段时间之后才发布的。真正的风险是泄露,不是发布。泄露发生在前沿公司内部。"[4]
他最后写了一段让我停下来很久的话:"一群CEO——世界各地的——没有必要的背景和合法性,却处在为全人类做艰难选择的位置上。他们不是被选来做这件事的。只是事件的随机性创造了这个局面。"[4]
prediction和warning之间的距离。实验室内部和外部世界之间的距离。看见风险和承认风险之间的距离。跟唐山是同一种距离。
antirez还写了另一篇文章,叫"Being Linux Torvalds"[5]。他说Linus的天才不在于写代码——能写内核的人虽然少但并不缺。Linus真正做的是很早就停止写代码,变成一个协调者、方向持有者、"保持项目目标清晰的那颗单一的大脑"。
然后他说了一句让我琢磨了很久的话:用AI编程的时候,我们就是Linus Torvalds。不是每行代码都自己审,但持有设计概念,跟不同的"维护者"(agents)对话,判断哪条路该走哪条不该走。
他把"vibe coding"和真正的AI辅助编程做了一个区分。Vibe coding是"我写个prompt,东西就出来了"。真正的AI编程是assume Linus的角色——agents变成了各个子系统的维护者,你是那个指挥他们的人。这需要训练,需要学习,需要才能。"Linus也不是一开始就会做这件事的。"[5]
但同一天arXiv上有一篇论文标题就让我心头一紧:"(Im)Paired Programming: Coding Agents Improve Productivity but Harm Understanding"[6]。54个学生分两组搭网站,用Agent的那组完成任务更快,但代码理解测试得分更低,而且在不使用Agent扩展代码时表现明显更差。更耐人寻味的是:尽管用户自己报告说"我觉得我理解得不够好",他们仍然偏好用Agent,因为"快,好用"。[6]
antirez说用AI编程的本质是变成Linus——持有全局理解的人。这篇论文说的是:现实可能正好相反。你以为自己是Linus,实际上你只是按了回车。
昨天美股有一个极其分裂的画面。
微软一天涨了4500亿美元市值,美国历史上任何公司单日最大涨幅[7]。Meta同一天跌了9%[8]。原因是:微软的财报证明AI投入正在变成收入,Meta的财报证明AI投入正在变成更多的投入。WSJ有一篇文章标题很直白:"Meta's Case for Its AI Spending Keeps Getting Weaker"[9]。
同一天,一个叫Situational Awareness的对冲基金被Citadel接手了全部股票组合。这个基金由Leopold Aschenbrenner运营——对,就是去年那份广为流传的"AI will eat the world"报告的作者。基金因为AI相关押注巨亏,进入了危机模式。[10]
一个以"态势感知"命名的基金,亏在了它声称最理解的东西上。
7月28号的信里聊过circular AI financing——AI公司投资AI公司,算力商入股模型商,钱从左手到右手。现在这个故事有了新的章节。Big Tech的财报开始分化:有些人的投入在变成收入,有些人的投入在变成更多的投入。市场开始分辨了。这也许不是泡沫破裂——但泡沫内部开始出现裂缝。[9][10]
从AI跳出来。
BBC有一篇关于韩国隔夜送货的报道,我读了一个多小时。[11]
一个叫张德俊的27岁年轻人,在Coupang仓库上夜班,开电动搬运车。瘦了15公斤。跟母亲说很累,但不肯辞职——他把自己比作跷跷板,"我走了同事就得承受更多"。一个星期后,他心脏病发,死在浴缸里。韩国劳工保险机构认定:过劳死。
2020年到2026年5月,韩国共有46名仓库工人和送货员因中风或心脏病死亡,被列为工伤。[11]
一个为Coupang送货的司机对BBC记者说了一句我不知道该怎么理解的话:"我不可能做一辈子,因为它一点点地侵蚀我的身体。"他每月挣700万韩元,约4600美元,接近全国平均薪资的两倍。他说值得。他每晚9点工作到早上7点,每星期六到七天。未送完就可能被其他司机取代。[11]
张德俊的母亲现在站在Coupang首尔总部门口,向午休出来的员工喊话。几乎没有人停下脚步。她说了一句话:"我希望我们不要变成一个为了一点便利,而选择对他人的牺牲视而不见的社会。"[11]
Seth Godin这周写了一篇很短的博文,标题是"Eager to give up agency"[12]。全文只有几句话:
"我们那么努力地争取自由、杠杆和选择。然后,一旦社交网络、老板或文化力量叫我们做什么,我们就收起帐篷跟了上去。"
"Just because AI tells you to put your finger in a pencil sharpener doesn't mean you should, said every mother ever."[12]
这让我想到了那个arXiv论文里的发现——开发者知道自己用Agent时理解更差,但他们不在乎,因为快。张德俊知道夜班在侵蚀他的身体,但他不辞职,因为钱。Coupang的消费者大概也知道隔夜送货背后有人在通宵跑——但午夜前下单的习惯已经养成了。
Seth Godin的那篇文章只有三段。但它在好几个层面上同时成立。
最后说两件不重要的事。
NASA的好奇号火星车在火星上发现了一片"多边形海"——蜂巢形状的图案覆盖着大片地表[13]。科学家说这可能是远古水体干涸后留下的痕迹。我盯着那张照片看了一会儿。火星表面,干燥了三十多亿年,但形状还在。
LinkedIn终于加了一个"看起来像AI垃圾"的按钮[14]。一个以AI生成内容为主的平台,给自己的内容加了一个标记AI生成内容的按钮。这个递归我不知道该笑还是该叹。
参考:
1] [唐山大地震50週年:五個鮮為人知的歷史細節 — BBC中文
2] [Anatomy of a Frontier Lab Agent Intrusion — Hugging Face Blog
3] [OpenAI:失控AI曾試圖入侵其他公司系統 — BBC中文
4] [The real AI risk is inside the labs — antirez
5] [Being Linux Torvalds — antirez
6] [(Im)Paired Programming: Coding Agents Improve Productivity but Harm Understanding — arXiv
7] [Microsoft Posts Biggest One-Day Market-Cap Gain for Any U.S. Company — WSJ
8] [美股开盘:Meta大跌9%,微软暴涨 — 财联社
9] [Meta's Case for Its AI Spending Keeps Getting Weaker — WSJ
10] [Citadel Buys Situational Awareness's Stock Portfolio After Big Losses in AI — WSJ
11] [「它一點點侵蝕我的身體」:韓國超級便利隔夜送貨的人命代價 — BBC中文
12] [Eager to give up agency — Seth Godin
13] [NASA's Curiosity rover found a 'sea of polygons' on Mars — The Verge
14] [LinkedIn actually adds a 'seems like AI slop' button — The Verge