张一鸣反对蒸馏:大模型行业的捷径与远路

张一鸣反对蒸馏:大模型行业的捷径与远路

你有没有发现,最近大模型圈的风向悄悄变了?

张一鸣拍板:蒸馏这条路,字节不走了

今天上午36氪曝出一个消息。

字节跳动Seed团队的内部会议上,张一鸣明确表态反对"模型蒸馏"路线。

你没看错。

就是那个被全行业视为降本增效神器的模型蒸馏。

就是那个能让小模型在特定任务上逼近大模型效果的"捷径"。

张一鸣说不。

他给出的理由很简单:蒸馏只能帮助模型追赶已有目标,却永远回答不了"目标之外还有什么"。

好家伙。

这一句话,直接把行业里心照不宣的窗户纸捅破了。

过去一年,多少公司靠蒸馏做出了"看起来差不多"的模型?

多少团队拿着蒸馏后的结果,对外宣称自己"追上了GPT-4"?

这个数字没人统计过,但你我心里都有数。

字节选择了另一条路。

他们让Seed团队自主探索基础模型研发路线。

代价是什么?

更高的算力投入。

更长的训练周期。

更多次可能失败的实验。

不是算不过来账,是张一鸣觉得这笔账该这么算。

这不是技术选择,是战略选择。

字节跳动内部会议场景

蒸馏到底是什么?为什么全行业都在抄近道?

你可能会问,蒸馏到底是什么东西?

说穿了很简单。

就是让一个已经训练好的"老师模型",把知识"教"给一个更小的"学生模型"。

就像考前划重点。

老师把整本书的精华提炼出来,学生不用通读全书,背重点就能考个不错的分数。

听起来是不是很美好?

效率高,成本低,见效快。

这也是为什么过去一年,几乎所有大模型公司都在做蒸馏。

70%的创业公司,核心技术栈里都有蒸馏这一环。

根据行业调研,2025年国内发布的130多个大模型里,有超过90个用到了蒸馏技术。

没办法,算力太贵了。

训练一次千亿参数模型的成本,动辄几千万甚至上亿元。

A100显卡一张就要8万多,一个万卡集群光硬件投入就是8个亿。

不是每家公司都烧得起这个钱。

但问题就出在这里。

背重点的学生,永远考不了满分之外的高分。

你问他重点里的内容,他对答如流。

你问他重点之外的东西,他就开始胡编乱造了。

更要命的是什么?

如果所有学生都背同一个老师划的重点,最后所有人的答案都会长得差不多。

这不是百花齐放,是千篇一律。

你仔细想想,现在市面上的大模型,是不是越来越像了?

写文案都是一个味儿。

写代码都是一个套路。

连犯的错误都一模一样。

这不是巧合。

蒸馏出来的模型,本质上都是"复制品"。

不是创新,是跟随。

捷径与远路的分岔路口

苹果给千问上的一课:再强的模型,也只是插件

就在张一鸣表态的同一天,虎嗅曝出了另一个耐人寻味的消息。

苹果昨天短暂上线了一份中文使用指南。

指南说,符合条件的中国大陆Mac用户,可以在最新系统里启用千问账户。

让Siri借助千问回答更深层的问题。

在写作工具里生成文本和图像。

听起来是不是千问赢了?

接入苹果生态,这可是多少大模型公司梦寐以求的事。

Mac在中国大陆有超过1500万活跃用户。

这相当于一夜之间打开了一个千万级的流量入口。

但不到24小时,这个页面就消失了。

更值得玩味的是指南里的一句话。

苹果明确要求,阿里不得利用这些交互材料训练或改进模型。

你品,你细品。

千问提供智能,Siri负责交互。

Mac掌握终端,苹果拥有用户。

大模型公司都在做梦,想成为下一个操作系统级别的入口。

结果苹果反手就把千问变成了一个可插拔、可替换的插件。

不是千问不够强。

是在操作系统面前,再强的模型也只是个工具人。

这像不像今天很多大模型公司的处境?

你技术很强。

你参数很大。

你跑分很高。

但你没有入口。

你没有用户。

你没有场景。

最后你只能把自己打包成API,按调用量收钱。

这不是平台,是外包。

你说扎心不扎心?

插件与平台的科技概念

AI深水区的真相:比跑得快更重要的,是敢走没人走过的路

把这两件事放在一起看,你会发现一个很有意思的对照。

一边是张一鸣宁愿多花钱多花时间,也要走自己的路。

一边是千问即使技术再强,在苹果面前也只是个插件。

这两件事指向同一个真相。

AI竞争已经进入深水区了。

上半场比的是谁跑得快。

谁先拿出产品,谁先融到钱,谁先把参数堆上去,谁就能占一席之地。

下半场比的完全不一样。

下半场比的是谁敢走慢路。

谁能忍受更长的研发周期。

谁愿意投入真金白银去做基础研究。

谁有勇气去探索"目标之外还有什么"。

过去我们总说,中国互联网擅长模式创新,不擅长基础创新。

因为模式创新见效快,基础创新风险高。

但张一鸣这次的选择,至少说明一件事。

不是所有人都愿意走捷径。

总有人愿意去无人区探路。

总有人愿意为长期价值买单。

你可能会说,字节有钱,当然可以这么选。

但你反过来想。

正是因为他们愿意这么选,才变得这么有钱。

这不是因果倒置,是良性循环。

你看那些真正穿越周期的公司,哪家不是在没人看好的时候,默默投了几年甚至十几年的基础研发?

华为海思是这样。

阿里云是这样。

今天的字节Seed,也想走这条路。

深海探索的概念图

最后说两句

很多人说大模型的战争已经结束了。

我反而觉得,真正的战争才刚刚开始。

那些靠蒸馏、靠拼接、靠融资堆出来的"表面繁荣",很快就会退潮。

退潮之后,你才知道谁在裸泳。

不是最快的人能赢到最后。

是走得最稳、走得最远、敢走别人没走过的路的人,才能看到真正的风景。

这才是AI行业最该有的样子。