百度沈抖：开源模型大概率不会成为主流，也不会形成完整闭环的商业模式

9月6日消息，2023百度云智大会上，百度智能云千帆大模型平台宣布实现2.0全面升级，首次公布月活企业数已近万家，覆盖金融、制造、能源、政务、交通等行业的400多个业务场景。

8月31日起，包括“文心一言”在内的多款大模型陆续通过备案，正式对公众开放。沈抖说，在文心一言开放当天，在百度智能云千帆大模型平台上，日活企业数增长超过 40%。——后者是百度面向企业端推出的大模型开发与管理平台。在“文心一言”放开后的第24个小时，沈抖进到后台看数据，发现文心一言回答了用户“3342 万个”问题，这个数字超出了他的预期。

对此，极客公园与百度集团执行副总裁、百度智能云事业群总裁沈抖进行了一次对话。

（图源百度智能云公众号截图）

在对话中，沈抖表示用户对文心一言的期待超乎他的预期。“我们本来也觉得‘看热闹’的少了，所以预期没有那么高。没想到当天有3342万个回答量，这说明用户对文心一言期待还是很高的。大家不是上来问一句、两句就走了，而是经过了多轮的对话。从这个角度上来说，用户的热情还在。”

沈抖透露，做千帆的目的，就是要降低大模型的部署门槛、推动大模型的广泛应用。

对于开源模型的看法，沈抖认为机器、数据的成本都太高了。“我觉得它大概率不会成为主流，也不会形成完整闭环的商业模式。”

图注：百度集团执行副总裁、百度智能云事业群总裁沈抖

（图源百度智能云公众号）

以下为《极客公园》与沈抖的对话内容：

问：看热闹到了真正干实事的时候。前两天，百度在C端开放了文心一言，你怎么看这个用户使用数据？在意料之中还是意料之外？后台的运维能力是怎样的？

沈抖：数据是我当天晚上12点半发到群里，同事们第二天就发布了这个数据。数据是我从系统里截的，原封不动地呈现给了外界，绝对真实。

我们本来也觉得“看热闹”的少了，所以预期没有那么高。没想到当天有3342万个回答量，这说明用户对文心一言期待还是很高的。大家不是上来问一句、两句就走了，而是经过了多轮的对话。从这个角度上来说，用户的热情还在。

文心一言从3月16号开始内测已经有五六个月时间，无论在效果提升、还是成本降低上，都给了我们比较充裕的准备时间。比如文心大模型的推理速度已经较当初提升了30多倍，大幅降低了推理成本，也让我们能够承载得了这么大的用户量。

问：所以这段时间百度大模型的技术进步，也包含成本上的进步？

沈抖：对，大模型本身就是资源密集型的技术范式。

我们开始没有想到流量会这么大，机器（算力）资源本身很宝贵，我们觉得放太多机器在那儿也是浪费，就没有额外放太多机器。当天用户规模上来以后，好在因为我们的推理性能提高了，所以还是给用户提供了稳定的服务。

我们手里也握着不错的算力储备，接下来也会继续降低训练、推理的成本，满足用户需求没有问题。当时我们内部群里讨论，流量来了能不能抗住。我说，让流量来得更猛烈些，都是幸福的烦恼。

问：文心一言在C端的放开，对百度的好处是什么？

沈抖：你可能担心的是，向C端开放如果不能带来商业价值，是不是可持续的问题。

事实上，只要真正给用户创造了价值，商业化只是时间早晚的问题。技术发展史上，那些有价值但变现难的事例很少。文心一言确实给C端用户带来了真真实实的价值，昨天我看有一些评论讲，没有了文心一言，他的办公效率就会下降。所以只要有价值，未来文心一言的商业化是顺其自然的。

问：中国大模型的C端产品形态，会跟Chat GPT保持一致吗？也就是订阅制收费吗？

沈抖：现在讲大模型的产品形态还太早了，它的定义也还没有那么清楚。

当年移动互联网起来的时候，我们可以用几个关键词讲清楚它的定义，比如SoLo Mo（Social、Local、Mobile，利用社交媒体、地理定位服务和移动终端设备提供更好的用户体验）。但现在大模型还无法用几个明确的词定义。它的能力更强大，但边界也更宽泛，还远没到收敛产品形态的时候。

Open AI是技术驱动的公司，用户体验其实不是它的强项。它今天设计出的产品形态还很早期，接下来产品的迭代速度会非常快、形态也会剧烈变化。

问：Chat GPT向C端用户收订阅费的商业模式，在中国是可行的吗？

沈抖：我们可能会演变出新的变现方式，比如常见的广告、电商加游戏三大变现方式。

如果你愿意一个月花两千块钱雇一个助理，那当AI能做助理1/10的事情，比如帮你制定旅游行程、预定机票和酒店、甚至调动打车和外卖软件等，你会不会愿意花两百块？只是变现方式不一定是会员费，可能是交易佣金或其他方式。

再比如，游戏里边一堆NPC角色都是生成式AI驱动的、电商领域“数字人”直播也由生成式AI支撑，这都可能产生不同的变现方式。最终C端的产品形态，决定了它的变现方式。

问：如果C端产品最终是生产力工具，有没有可能不是个人掏钱、而是公司给个人掏钱？

沈抖：有可能。比如百度网盘也算是一个效率工具，很多公司会买网盘账号给员工用。我们还接触过企业，给每个员工配一个Copilot账号写程序。这都是企业给个人买单的案例。

问：作为内容公司，我们也特别想用大模型来生产文章。你们刚上线了ToB的大模型服务平台“千帆”，推出“千帆”的背景是怎样的？能怎么帮助零程序员的公司部署大模型？

沈抖：这是非常好的问题。事实上，这就是我们做千帆平台的原因。

这次大模型在B端落地的特点是大公司先行，很多客户都是金融机构、能源机构、教育机构等。它们有一个明显的特点是需要私有化部署，但这样门槛很高，还要自己培养一堆技术人员迭代模型，可能会减慢大模型生效的时间。

反倒像很多中小公司，你们大概率不会排斥一个（平台型）SaaS产品，也不会排斥公有云。千帆平台就是这样的产品。企业可以在上面直接调用API，也可以训练样本做微调，几乎零代码打造自己的模型。我们做千帆的目的，就是要降低大模型的部署门槛、推动大模型的广泛应用。

问：似乎你们和OpenAI的路径有所不同。OpenAI是先推C端产品ChatGPT，再慢慢推B端产品，百度却是C端和B端齐头并进。为什么会有这种差异？

沈抖：技术都有接受度的问题，得让更多的用户真正用它，找到它的价值所在。大家都在谈大模型，但多少人真的用过大模型？B端企业客户更能感受到大模型对它们整个生产范式的潜在影响，它们更需要用起来。

但如果它们既不用公有云的API，也不自己搭一套环境去体验、尝试，那就是纯粹在那儿天马行空地想象。所以我们需要做千帆，让它们先把大模型用起来。其实关于大模型的全方位开放，C端等了很久，B端也等了很久。只是B端离商业化更近。

问：文心一言放开后，千帆平台的B端需求被拉动了多少？

沈抖：在文心一言开放的当天，在百度智能云千帆大模型平台上，日活企业数增长超过40%，考虑到TOB的反应速度通常滞后一些，实际的情况会更好一些。

放开不仅会拉动C端数据上涨，也一定会拉动B端的数据上涨。因为这会帮B端企业降低成本、加快迭代速度（注：用国内模型成本更低、更方便）。

但从数据涨幅上，B端暂时还比不上C端。今天假设有人要在B端用“文心一言”，他与其上来就调用API，不如先去C端体验一下。当他认为体验好，才会来千帆上用它。让B端用起来，需要一个培育的过程。

问：如果C端和B端齐头并进，你们怎么设置优先级？重点主要放在C端还是B端？

沈抖：当资源出现冲突时，才需要设置优先级。大模型的特点是，它在底下很厚的一层都是通用的，那在上面找应用，无论To B还是To C，都是百度要齐头并进做的。没有到资源冲突的地步。

在C端，百度正在积极研究大模型可落地的产品形态和商业模式。百度要基于大模型重构自己的C端产品，比如从百度自己的产品数据来看，百度网盘、百度文库等产品，基于大模型重构后，用户使用粘性和会员付费率都有很大提高；全新打造的文心一言APP和重构后的百度搜索，也成为大模型应用新入口。在B端，百度智能云通过打造出最好的大模型平台，服务好To B市场。

问：其实最通用的基座是你们的云计算，无论服务内部客户、还是外面客户，都是你们的成功。

沈抖：是的，你服务好了内部客户、就服务好了外部客户，服务好了外部客户、就服务好了内部客户，这是MaaS的美妙之处。否则的话，假设外部和内部完全是两套技术栈，成本就太高了。

我们是两条腿走路。百度当然希望能做出一鸣惊人的ToC产品，但我们也非常愿意通过底层大模型和算力，支撑更多的企业和开发者做出好的ToC应用。其实无论上面谁成功，都是底层大模型的成功。

问：除了文心一言外，千帆平台还上线了其他模型。千帆跟Hugging Face这样的模型聚合平台有什么区别？

沈抖：在目前或相当长一段时间内，不管是出于模型的场景适配性、还是客户的心理需求，企业都希望能尝试不同的模型。从这个角度来讲，我们也需要提供第三方模型。

但也不是每一个模型都值得去试，那会是很大的资源浪费。所以千帆有自己的筛选原则，我们放上来的都是相对比较优秀、易用的模型。

问：所以Hugging Face的定位是社区，千帆的定位是平台？

沈抖：没错。千帆不只是解决你来选模型的问题，更解决你把模型真正用起来的问题。用起来又包括数据、训练、调优、Prompt工程，以及应用搭建等一系列问题，还要充分考虑到成本和效率。千帆提供的是一站式服务，这是千帆跟Hugging Face的区别。

Hugging Face模型广度足够，而千帆依托云厂商天然的优势，有足够大的运营空间，也可以做到端到端的训练和推理性能优化。例如，训练过程中的加速，故障的快速感知、定位、恢复；推理过程中基于百度庞大的异构计算集群的扩展性，有非常好的资源弹性，也可以提供serverless的服务，使得客户获得低基础设施成本、无需运维、高扩展性的收益。这是千帆要比Hugging Face做得更深的地方。

问：你似乎不看好开源模型，但开源摊薄了企业部署大模型的成本，也不能说它没有意义。你到底怎么看开源模型？

沈抖：你说LLaMA（注：Facebook的开源大模型）的成本谁摊？是Facebook。那Facebook的成本谁摊？如果想不清楚这个问题的终点，那它（开源）就是无源之水、无本之木，终归有一天会出问题。

因为这跟传统的开源软件不一样，过去一个人参与开源的投入，就是他自己的时间成本。但今天如果一个人想搞开源大模型，机器、数据的成本都太高了。

问：可以用爱发电，不能用爱计算。

沈抖：对，训一轮你得扔几千万进去。

今天跟传统开源玩法有一点相似是，它们都是用开源来吸引用户的注意力，最终还是希望选其他（闭源）大模型。

问：有没有可能出现类似RedHat和IBM的关系（注：2018年，IBM宣布收购全球最大的开源公司红帽）？假设像IBM这样不甘心的有钱企业主，愿意支持开源方呢？这样开源就有资金、数据支持了。

沈抖：开源肯定是会长期存在的。随着大模型越来越受关注，政府、企业都可能捐赠去支撑这方面的研究，促进整个市场教育。但它最后能产生多大的价值？我觉得它大概率不会成为主流，也不会形成完整闭环的商业模式。

传统的软件开发可以形成闭环。比如你写了一段代码或升级了一个功能，可以很快checkin（签入），整个开源软件的能力一下就提高了一层。但今天LLaMA发布完了以后，不管有多少人在用，它没法checkin回去，数据放不回去、算力放不回去、能力也放不回去，形成不了闭环。

问：很多开源派认为，开源模型读过万亿参数，虽然比不上闭源模型，但是也是很可用的了。就像模型本身虽然没有985和211毕业的水平，但至少是个专科水平可以用来做更垂直的微调了。

沈抖：Foundation Model（基础模型）到底要不要进步？如果说今天Foundation Model已经很好了，不用再改了，那没有问题。但今天的情况是，Foundation Model只有60分，我们要争取做到90分、95分的问题。

问：为什么要进步？很多企业的真实感受是，GPT3.0都已经能解决问题，那进步的意义是什么？

沈抖：这是一个很好的问题，我们内部也讨论过。今天Foundation Model做到60分也能解决很大一部分问题，但它离完美地解决，差距还是很大的。而人性的需求是，但凡你能让我一次解决的，分两次绝对不干。

今天你在Foundation Model只有60分的基础上，训练出了85分。那之后Foundation Model达到85分，你是不是能得95分呢？人在这方面的追求是无极限的。

这个极限肯定是要继续往上拉的。拿搜索举例，20多年前的搜索就能用，那谷歌这20多年都在干嘛？你看似结束了，实际上没有。

问：怎么看大模型接下来的竞争格局？

沈抖：今天市面上有非常多模型，但我认为它们很多都会迅速消失。

现在很多模型之所以还存在，是因为很多人还不知道它的好坏。反正谁也试不了，谁也用不了，一测排名还挺靠前。但随着模型的放开，优劣更容易评判了。今天这些做大模型的，你给他三千万个问题输进去试试，估计一大半都得干趴下。

这会导致流量的逐步集中，头部模型更容易形成规模效应，从而进一步分摊模型研发的成本。差距会进一步拉大。

问：淘汰赛会什么时候开始？

沈抖：不好说，毕竟大家融的钱可能还得花一段时间。对于大企业来讲，烧还是烧得起的，但也要看它烧的价值何在。有一些企业是冲着反正自己的应用场景很多，这时候让它去调别人家的大模型API肯定不干，所以一定会做一个自己的模型。好点、差点（无所谓），至少不用依赖外部。大企业做模型这件事还会持续一段时间。

问：未来大模型会不会成为所有应用的底座？这会诞生一个完全不同的开发、应用生态吗？

沈抖：毫无疑问，大模型会成为一个新时代的操作系统，变成很多应用的底座。

一直以来，人和人、和机器打交道，都是用语言作为指令。但过去，机器不懂自然语言，我们就硬生生写了一套程序语言让它理解。现在大模型理解了自然语言，整个应用开发范式就发生了根本性的变化。开发变得由创意驱动，而不是由代码能力驱动。

另外，大模型也有把系统串联起来的能力。像现在插件的出现，也就是独立完成某种能力、等待被调用的组件，大模型可以把插件组合起来完成一个特定的任务。这都会进一步改变开发范式。

问：如果大模型能打通所有插件解决问题，这是不是变相实现了互联互通？

沈抖：其实依然没有。实际上，这些APP现在也都存在于同一个手机上、同一个应用程序里，它照样没有实现互联互通。将来在大模型基座上，美团接进来、滴滴接进来，但它们还是没有互通的。

问：底层的问题没有解决。

沈抖：对，互联互通应该指的是数据打通，你的数据我可以访问、我的数据你可以访问。但在大模型底座下，我们只是愿意跟这个中枢对话，但我们插件彼此之间并没有对话。

问：这种不互联互通的情况，会不会导致开发者不能流畅地实现跨资源调度？这会是中国大模型开发生态的缺陷吗？

沈抖：我觉得主要的原因是没放开、流量规模没起来。比如文心一言一下子有了3000多万的流量，开发者一算可能1%是自己的，那也有30万的访问了，他就会决定来干。

问：在大模型时代，百度云怎么定义自己在生态里的位置？利益机制如何分配？

沈抖：以百度一家之力是绝对干不过来的。不是恐怕干不过来，是绝对干不过来。

首先，插件一定会是非常繁荣的生态，它和大模型之间是相辅相成的。插件要从大模型中获取流量，大模型又需要插件能力的支持，就像今天假设手机上没有微信、抖音，用户可能都不用它了。

其次，在面向终端客户的应用上，无论是私有云部署、还是通过千帆这样的平台级方案，最终一定需要生态伙伴完成最后一公里交付的问题，比如金蝶、用友、软通动力等。它们有特别熟悉的客户和业务流程，最终需求都会被它集成。

总结一下，一是开发生态的能力聚合、二是帮大模型做交付的合作伙伴、三是用大模型强化自身服务的客户，这都是生态。

问：大模型的技术范式，给云计算带来了哪些改变？

沈抖：技术发展的脉络是越来越高级。换句话讲，离底层越来越远，越来越不需要关注细节，封装越来越好，有大量的人在背后把这些活给干了。这本身也是云贡献的价值。

早期的CPU云贡献的价值，就是客户不用自己买机器一个一个卡绑，它封装得越来越好、可以在上边直接用。随着大模型时代到来，“AI加速芯片”GPU慢慢成为算力中心，算力增长速度远远超过CPU。这会加速我们从CPU云向GPU云的切换。

在GPU云的时代，最终我们会把云的能力进一步封装，不让底层暴露出来，形成更高级的交互形态，直接对接大模型的API。今天的云还是给工程师开发的，交互形态还不够彻底，但未来底层的工程师会减少，更多人会往上层走。这是一个大幅的变化。

问：大模型会重塑云计算的市场格局吗？如果会，什么时候能看到信号？

沈抖：我喜欢这个问题。如果没有大模型的话，百度的云会打得非常吃力。我们过去一直在喊“深入行业、聚焦场景、云智一体、AI普惠”，百度智能云想做的就是把AI放到整个ToB的服务里，让它成为一个增长点。

但过去，传统的AI是非常碎片化的。它要针对一个问题生成一个能力，再解决这个问题，通用性比较差。这就导致它都是项目制，很难规模化，毛利也低。

而生成式AI出来以后，我们看到它的通用性非常好、一下子能解决很多问题，在应用层往下基本都是统一的，哪怕需要微调、需要插件，都是标准化的动作。这跟之前非常碎片化的AI应用完全不一样。这本身就是云业务的巨大变化，所谓的IaaS变成了MaaS。

问：过去中国的AI公司都是要落项目，非常苦。没法像现在这样，通过标准化的产品解决问题。

沈抖：我们那时候跟Robin（注：百度创始人、董事长兼CEO李彦宏）讨论云战略，他也要求我们必须得标准化、规模化，不然体现不出来百度作为一个技术公司的价值。

问：所以接下来长期都会是标准化和规模化？

沈抖：大模型在早期有很大的不确定性，今天，很多客户对大模型的能力上限、边界、成本、交付、需求方式都还没有统一认知。短时间内，我们还不能保证客户都到公有云上来，肯定还是先通过项目制的方式去做。

但即使是这样的项目制，也跟以前的项目制不一样。比如我给你私有化部署了模型，它更像是Windows或者是office，先是95版，接着是97版，又来了2000版，你得不断的升级。看似我给你一个光盘装到家里了，实际上你得不断地订阅。这跟原来搭建的也不一样。

问：但你们的财务已经出现了改善。今年一季度百度智能云首次实现季度盈利，你们提到原因就是云服务的标准化，实现了规模复用、降低了成本。

沈抖：是的。在单纯项目制、或者项目制占比比较高的情况下，交付后毛利太低了。

问：作为百度最高决策层的一员，你平常最关心和焦虑的问题是什么？经常要跟团队讨论的问题是什么？

沈抖：在产品形态上，Robin有一个要求，一定要用AI原生思维来重构所有的产品。是重构，而不是接入。

在技术上，我们思考的是今天生成式AI的能力还能往上蹦多高。文心一言现在的评测结果还不错，但它还远远没到人类语言、或者优秀人类语言理解的上限。怎么能继续快速拉升这个能力，肯定是我们第一位思考的问题。

接着是行业应用上，模型怎么能真正用起来、在哪些场景能用起来、用起来的门槛有多高、边界有多宽、怎么能提高它的效率、怎么激发大家想到更好的用法……这都是我们要不断思考的东西。

问：这些都是比较偏软的层面，偏硬的层面呢？

沈抖：现在算力集群从千卡到万卡，百度是中国真正在万卡级别上跑单一任务的公司。

在万卡集群下，组织、效率、保障这些真正底层的工作大家看不见，但是它们极其重要。比如，我们要提高底层硬件和软硬一体的训练、推理效率。这都是蛮关键的东西。

问：你在百度这么多年一直都负责搜索、广告业务，直到去年才主掌智能云，马上就遇到了大模型的历史机遇。会觉得是一种幸运吗？你的感受是怎样的？

沈抖：没那么夸张，但我确实很兴奋、很幸运能去做这么一件事。

去年接手的时候，我就有（把云服务）规模化、标准化的思路。但因为AI能力太碎片化了，做起来非常难。当时我就使劲在想，有什么东西是既需要AI能力、又需要AI算力、同时还能让很多人同时去用的？找半天找不着。

然后，大模型就出现了。一下子就感觉顺手了。

问：你个人学的是人工智能方向，大模型是不是也跟你更匹配？

沈抖：这跟我研究生做的事情很相似。虽然我一直学计算机的，但我做得偏软件的多一些，一直在人工智能这条线上做。

当时接了云（偏底层硬件）以后，我真的又把操作系统、计算机组成原理的书拿来看了一遍。如果说真是CPU时代的IaaS、网络组件、存储计算那套东西，我觉得还是有点难的。

但大模型出来以后，我发现那些东西被封装在下面了，我现在主要研究大模型就可以，比如读论文、自己用Python把千帆上的API调用一遍等等。我觉得顺手多了。

问：接下来，你对百度智能云的发展增速有怎样的预期？

沈抖：百度智能云现在就接近两百亿的盘子，还相对比较小。在大模型的加持下，我们的客户需求变得很旺盛，现在都忙不过来。不过要想真正让用户用起来、做好交付，还需要一个过程。

问：四季度会迎来小爆发吗？

沈抖：有人估计四季度会是爆发的。需求确实开始起来了，但我觉得爆发的话，可能要到明年。

问：你怎么评价自己的运气？

沈抖：我觉得这是百度的运气。百度做AI做了这么多年，下了这么大功夫，如果大模型不来的话，云的商业化路径确实更难一些，也很辛苦。这正好说明有Vision的公司，最后运气也不会太差吧。