← 写作

留下的只是昨天的标本

2026-09-14约 7 分钟
留下的只是昨天的标本

留下的只是昨天的标本

欢迎来到我的小铺。今天想聊聊之前挺火的“蒸馏”。

我记得最早起源于某技术社区的一个开源项目。作者把一位刚离职同事四年来在钉钉、飞书上的所有公开发言、项目周报和会议纪要全部打包,喂进了一个小型本地模型,做成了一个名叫“老张.skill”的插件。工位上的工牌和机械键盘已经被收进纸箱,但在终端里输入一个业务故障,这个虚拟的“老张”依然能在两秒钟内吐出熟悉的断句习惯、口头禅,以及他当年最常调用的三个排查脚本。

评论区有人开玩笑说:人走了,魂被扣下了。

“蒸馏”(Distillation)在机器学习里原本是个非常具体的工程动作:让体积小、算力消耗低的小模型,去拟合大模型的输出概率分布,用低廉的推理成本换取接近前者的表现。2015年Hinton正式提出这个方法。但最近几个月,这个词频繁越界,从机房服务器流窜到了社交平台和人事报表里。越来越多人尝试把自己的工作流、备忘录甚至说话方式打包压成一个文件,试图完成一次赛博分身。

这种尝试背后藏着一种普遍的隐秘焦虑:如果一个人积累十年的经验可以被切片提纯,那“这个人”本身,是不是本质上就是一个等待被压缩的离线包?

把日常工作跑进自动化流程的人,大体都会经历这种阶段。当某个脚本准确无误地代为分派了任务、回复了邮件时,除了效率提升的快感,心底往往会浮起一层微弱的异样——东西都对,但哪里不对。

这种别扭感不是因为模型精度不够,而是因为我们把两种完全不同的物理过程混淆了。


一、有损压缩销毁的不是细节,是“活着的变量”

面对技术生成物,人的第一直觉通常是“还差一点”。

早期的图像生成手指画不准,后来的版本修掉了;机器翻译早年语法生硬,现在的润色足以应付大部分商务公文。依照这种线性推导,许多人会自然地认为:蒸馏一个员工或蒸馏自己,无非是语料还不够密、提示词写得不够细。只要把微信语音、深夜敲键盘的击键间隔、甚至体检报告里的心率都作为特征项输入,那个生成的“分身”总有一天能在曲线上无限逼近本体。

但这根本不是一个逼近精度的问题,而是一个信息在剥离载体时的物理损耗。

在数学上,欧几里得能用五条公设和五条公理推演出整座几何学大厦,那是因为公理与推论之间存在确定、封闭的逻辑链条,属于无损压缩。但在生物系统与社会实践里,信息从未以这种纯粹形式存在过。把一个人十年的工作记录提取出来,本质上是在做极端的有损压缩。

有损压缩最残酷的特征,在于被剔除的信息不是隐匿起来,而是被物理销毁了。

那些被导出的文字和代码,仅仅是一个人在特定历史切片下排泄出的“结果”。蒸馏算法所捕捉到的,无非是这个人“昨天”在某种受限环境下的应激反应模式。可问题在于,能力并非一个静态的知识库,而是一个持续处于耗散状态的动力系统。一个人在周二下午做出的反常决定,可能源于他中午散步时听到的一句闲话,或是胃部隐隐传来的抽痛,甚至只是对窗外天气变化的应激。

蒸馏物在导出的那一秒就被焊死了。它无法代谢,不能吸收新的噪声,更无法通过肉身感受痛感并修正偏见。它展示的不是一个人的“低配版”,而是一具保存完好的蜡像——眉眼纤毫毕现,但没有温度,也不会在明天长出新的皱纹。


二、人脑的20瓦能耗,从不为“存量数据”埋单

为什么试图“导出一个人”注定会丢失核心?

答案不在算法有多先进,而在生物脑底层的记账逻辑,和计算机的存储逻辑完全是南辕北辙。

现代数据中心为了维持海量参数的吞吐,需要消耗巨大的电力和昂贵的冷却液。但成年人的大脑平均功率只有区区20瓦,仅仅相当于一盏昏暗的床头灯。在这个极其逼仄的能量预算下,大脑根本负担不起像硬盘那样“把经历过的一切写进介质”的奢侈行为。

认知神经科学里的预测编码理论揭示了一个事实:大脑在绝大多数时候,根本没有在“全量处理”现实。推开每天上班走过的那扇玻璃门,神经系统并没有耗费算力去重新计算门把手的反光、地砖的纹理。它只是在内部跑着一个极其省电的预测模型——下一秒这里该有什么。如果手掌碰触到的把手阻力如期而至,神经元就保持沉默,不向上级中枢报销任何能量。只有当门把手突然松脱、或是地砖结了薄冰,这种“预测误差”才会瞬间触发放电,唤醒系统进行干预。

这与现代视频编码为了压缩带宽只存储“帧间变化量”高度相似。人类脑海里那些被称为“直觉”、“手感”或“老练”的东西,根本不是什么整整齐齐码在神经元里的文档,而是一套为了节省热量、只对未知与偏差做出反应的动态过滤网。

更早一些,英国心理学家巴特莱特在上世纪三十年代的记忆实验中也证实过:人类的回忆从来不是调取录音带,而是在接收到特定外部刺激后的“现场即兴重组”。每一次回忆,都是用当下的心境和当前的认知框架,把当年的要点碎片临时拼装一遍。每次当事人在会议桌前给出决断,都是数以亿计的神经突触根据现场的空气流动、对方的微表情、自己当下的体能状态,当场跑出来的一套临时结果。

蒸馏技术所能抓取的,永远只是这套机制在过去某次重组后留在屏幕上的投影;至于那个在黑暗中精密运转、只耗费20瓦热量、依靠肉身与现实不断摩擦校准的预测引擎本身,由于从未固化成字符,根本无法被读取,自然也无法被转移。


三、世界上从未存在过真正的“拷贝”

现代人对“蒸馏自己”的迷思,很大程度上来源于对数字世界“无摩擦复制”的路径依赖。一份代码可以按Control-C迅速镜像出十万份,人们便下意识地以为,经验和意志也可以通过某种协议完成端口迁移。

但在人类这个物种的演化史上,“拷贝”这项功能从来没有上线过。

从古至今,认知在生物体之间的转移,本质上只有一条路——昂贵、缓慢且摩擦力极大的重新训练。师傅带学徒,即便把操作口诀编成最严密的顺口溜,学徒若没有在砂轮前磨断几十根废料、手指没有被飞溅的火星烫出几个水泡,那套口诀就始终只是一串无意义的声波。师傅给出的指引,充其量只是一组诱发信号,真正的规则,必须由学徒用自己的肉身作为容器,在漫长的时间里一笔一划、通过一次次痛苦的试错重新生长出来。

哲学家波兰尼早就说过一句话:我们能知道的,比我们能说出来的多。 能被蒸馏的,是“能说出来的”那一部分——风格、模式、知识条目。但“能知道却说不出来”的那一部分,不是技术还不够好,是它的存储介质就决定了它出不来。它只长在具体的人身上,没有别的介质能装。

那些真正构成了“某个人不可替代”的部分,往往不是他读过的公开资料,也不是他写下的工作汇报,而是他在无数个逼仄瞬间里,不得不独自承担后果时所形成的取舍偏好:在预算超支的悬崖边,他基于某种无法言说的生理直觉砍掉了哪一项;在两个方案同样平庸时,他在清晨三点凭着本能选了哪一条更崎岖的路。

这些东西之所以压不进模型,是因为它们从诞生的第一天起,就与痛感、责任以及时间的不可逆性牢牢锁在一起。没有沉没成本的系统,无法理解什么叫“决断”;没有生理极限的机器,也永远无法体会为什么人类会在某个时刻选择放弃收益、守住底线。


回到那个由离职文档训练出的“老张.skill”。

它确实可以在老张离开后的第三个月,继续精准地指出某行配置代码的缩进错误,甚至可以用极具老张个人特色的反讽语气在工单系统里留下批注。但这不代表老张被留下了。它只证明老张在过去四年里,曾经把自己一部分机械化、例行化的认知损耗,出让给了这套电子工具。

可以把一切能被结构化的步骤整理出来,交给机器,让算法去充当高效率的外骨骼与传声筒。但账目必须算清楚:机器接管的,永远只是那些已经死去的标本;而真正决定一个人价值的,恰恰是他在离开键盘之后,在充满随机性与摩擦力的现实世界里,正在为哪个新的错误支付代价。

凡是能被完整蒸馏出来的,原本就不属于生命本身。


哞小哞的杂货铺 · 2026 · 032