← 写作

跑分追平了,然后呢?

2026-08-24约 6 分钟
跑分追平了,然后呢?

欢迎来到我的小铺,今天聊聊一个最近让我动了心思的事。

前阵子Qwen 3.8-27B开源,270亿参数的稠密模型,消费级显卡量化后就能跑。跑分一出来,社区炸了——编程和Agent场景的成绩,部分基准测试压过了Claude Opus 4.6。要知道,Opus 4.6外界猜测参数量在数千亿甚至万亿级别,也就是说,Qwen3.8-27B跟它大几十倍甚至上百倍的模型掰手腕,居然没输。

我当时的第一反应很实际:我本地跑着DeepSeek V4 Flash,占了不少内存,256GB的机器只够它一个来跑。如果Qwen3.8能力真的追平了,换上来不是能省出一大片内存干别的?

但别急,听我捋一捋。


一、跑分追平,不等于能力追平

先说跑分这个事。Qwen3.8在编程和Agent任务上的成绩确实漂亮,但跑分到底在测什么?

拿具体案例说。有人让Qwen3.8从零写一个坦克大战游戏,经过自测、安装环境、修复报错,最终交付了一个逻辑完整、能跑的游戏——这确实厉害。但同一个模型,让它画一个SVG图形,等了21分钟才出结果,效果还不理想。网上为此吵了好一阵,一边喊“Qwen3.8要逆天”,一边骂“连个图都画不明白”。

后来有人做了交叉验证,中肯的说:擅长的地方能赢Opus,硬推理仍然落后。这句话比跑分排行榜更加真实。

什么意思?跑分测的是特定任务上的表现。编程、Agent调用、工具使用——这些任务相对窄,测的是“在明确规则下做事的能力”。但换一个维度,比如HLE(跨学科最难推理测试),Qwen3.8只有30.8分,Opus 4.6是40.0分。差距不算大,但方向很清楚:需要跨领域知识、需要把不同领域的东西串起来推理的时候,Qwen3.8就开始吃力了。

还有一组数据更直观。GPQA Diamond(研究生级别的科学推理),Qwen3.8-27B得89.2,Opus 4.6得91.3——差距很小。但换到Terminal-Bench 2.1(终端任务能力),Qwen3.8-27B是73.0,虽然比前代Qwen3.6-27B的63.4进步明显,但和Opus 4.6之间仍有差距。看出来了吧?同分不同命。有些分数看着接近,差的只是几分;有些分数差着不多,背后的能力维度完全不同。

所以“跑分追平”这句话,严格来说应该改成:在特定任务上追平,在另一些任务上仍然落后。


二、换不换,先算一笔账

架构的区别之前聊过,Dense(稠密)全部参数一起上,MoE每次只激活一部分。这里不重复,直接说它对选择的影响。

Qwen3.8-27B是Dense架构,270亿参数全部参与计算,没有储备。这意味着什么?它把所有训练数据集中砸在代码和工具调用上,窄任务上能打,但那些偏门的知识、需要串起来理解的东西,它顾不上。不是做不到,是数据预算有限,必须取舍。

大模型走MoE路线,总参数几千亿,每次激活的也就几十B,跟Qwen3.8-27B差不了太多。但那几千亿参数里藏着大量“平时不激活、碰到偏门问题才派上用场”的专家参数。这些参数不是浪费,是知识广度和安全边界的来源。

还有一个反直觉的点。Dense架构“全部参数一起上”听起来应该更快,但在Mac上实测反而比同等激活量的MoE模型慢——每个token都要读全部270亿参数,对内存带宽压力极大。MoE每次只读激活部分,反而省带宽。在顶级显卡上这个差距不明显,但在带宽有限的设备上,Dense的效率优势打折扣。当然,MoE的专家体积也在变大,总体来说体量越大能力越强,只是收益和成本之间永远有一笔账要算。

说具体一点。什么叫“储备”?同样问一个历史问题——“安史之乱对唐朝税收制度有什么影响”,大模型能从均田制崩坏讲到两税法改革,把前因后果串起来讲清楚。Qwen3.8可能知道安史之乱,也可能知道两税法,但把两者之间的因果关系串起来讲清楚,就不一定了。不是它不会推理,是它在训练的时候没“见过”足够多这方面的材料。就像一个聪明的小学生,脑子转得快,但课本还没读到那一章。再比如审美——让大模型评价一张海报的构图和配色,它能说出道道来;Qwen3.8可能直接给你一个“好看”或者“不好看”,说不出为什么。

这就是“见过更多”和“更聪明”的区别。大模型的价值不在脑子转得更快,在于读过更多的书。


三、那到底什么场景用什么

说了这么多,回到最开始那个问题:能不能用Qwen3.8-27B换掉DS4F?

先说Qwen3.8擅长什么。目标清晰、边界明确的活,它干得又快又好。改一段代码、调一个工具接口、给文章做个润色——任务本身不需要太多“底蕴”,需要的是准确和速度。Qwen3.8参数小、推理快,干这类活体验比大模型还流畅。拿来聊个天、做个简单任务,完全够用。

但我的日常使用,充斥着大量不那么“清晰明确”的需求。比如写一篇文章,写到一半需要查一个历史事件的来龙去脉,再把它跟当前的现象串起来做判断——这就不只是“执行”了,需要模型自己“见过”足够多的东西。再比如跟它讨论一个问题,聊着聊着话题拐了个弯,从技术跑到了历史,又从历史拐到了政策——这种跨领域的来回切换,Qwen3.8就开始接不住了。不是它不聪明,是它的“课本”没读到那些章节。

前面那个HLE测试就是最好的说明——差的不是推理能力,是知识储备的差距。脑子转得快,和读过足够多的书,是两回事。

所以回到那个问题:换不换?

反正我是不换。

我的日常不是只跑单一任务,经常是从写代码跳到查资料,从查资料跳到写文章,中间还夹杂着各种零碎的问答。这些场景对参数规模有真实的要求——不是越大越好的那种要求,而是“得见过足够多的东西”才能接得住。DS4F虽然不是最大的,但它卡在一个特别舒服的位置:比Qwen3.8-27B多出来的那些“储备”,刚好够覆盖我日常那些不按套路出牌的问题。


四、说到底,是搞清楚手里这把刀能干什么

写到这里,其实“换不换”已经不是重点了。重点是我在这个过程中想明白了一件事:准确理解每个模型的能力范畴,然后合理安排它该用在什么地方。

Qwen3.8-27B是一把快刀,目标明确的活交给它,又快又省。大模型是一座图书馆,需要“见过”才能回答的问题,得靠它。DS4F是个人本地部署的甜品级模型——比上不足,比下有余,刚好卡在“够用”和“好用”之间最舒服的位置。而Qwen3.8-27B更适合的场景,是在高端显卡里当一个子代理,专门跑那些目标清晰的固有任务,又快又省。

小模型有小模型的好处,大模型有大模型的价值。不是谁替代谁,总体来说当然体量越大越好——但这里有个收益和成本的换算问题。每个模型都有它的能力边界,搞清楚边界在哪,比追着跑分排行榜重要得多。

当执行越来越便宜、越来越快的时候,“见过更多”这件事反而成了稀缺品。跑分会追平,能力会逼近,但那些藏在参数深处的、需要靠“读过足够多的书”才能长出来的判断力——这才是大模型真正的意义。