8位AI Infra高管的WAIC共识:行业的船舵,已经从训练转向推理
每年的WAIC,都是一个观察行业的绝佳窗口。
展商把最得意的产品摆上台面,客户带着真实的问题来寻找答案,投资人在人流里嗅着下一个风口的味道。你在会场里走一天,听到的、看到的、聊到的东西攒在一起,基本就能拼出当年行业的真实温度。
2026年的上海,WAIC的热度比七月的气温还要高。但如果把今年和去年做一个对比,你会发现一个很有意思的变化——讨论的重心不一样了。
雷峰网找了8位AI Infra公司的决策者聊了聊。这8个人背景不同:有做算力运营的,有做云服务的,有做推理引擎的,有做调度平台的,有做数据中心的。立场不同、角色不同,但聊到最后,你会发现大家指向的方向惊人地一致。
行业的船舵,已经从训练转向了推理。
一、共识一:关注点从规模转向效率
这是最直观的一个变化,几乎每一个人都提到了。
陈庶用一句话总结了去年和今年的区别:去年大家还在讨论如何把模型训练出来,今年讨论已经变成了如何让模型规模化地跑起来。
话很朴素,但分量不轻。"训练出来"和"跑起来",差的不是一个步骤,是一整套逻辑。训练的时候,你关心的是能不能把模型训出来、精度够不够、参数量够不够大。但要让模型规模化跑起来,你关心的就是另一回事了——稳不稳定、成本多高、能承接多少并发、响应速度多快。
董直烨的表达更正式一些:行业的关注点已经从算力资源的有无和规模大小,转向了算力的落地效率与价值确定性。
"价值确定性"这个词用得好。企业用户不是为算力付费,是为结果付费。你有多少P算力不重要,重要的是你能不能以确定的成本、确定的质量、确定的稳定性,给我提供确定的AI服务。
陈健讲得更具体。他说前两年行业算力需求基本上训练和推理五五分,但今年开始,随着AI Coding、自主智能应用批量落地,推理需求直接冲到了绝对主导地位。他甚至给了一个明确的长期判断:训练算力整体占比会萎缩至10%左右,研发类算力占比5%,剩余85%以上的算力需求将全部归属Token推理工厂。
85%——这个比例很有冲击力。如果这个判断成立,那意味着整个算力行业的产品结构、技术路线、商业模式、竞争格局,都要围绕推理来重新构建。
从工业设计的角度看,这和产品从研发到量产的转变很像。研发阶段关心的是"能不能做出来""性能够不够",但一旦进入量产阶段,关注点立刻就变成了"成本多少""良率多高""能不能稳定供货"。不同阶段有不同的核心矛盾,打法自然也完全不一样。
创品在服务客户的时候也深有体会。项目早期和客户聊的是概念、创意、差异化;到了后期,聊的就是模具、成本、供应链、量产可行性。角色在变,话语体系在变,评判标准也在变。谁能越早意识到这种转变、越早调整自己的能力结构,谁就能在下一个阶段占得先机。
二、共识二:Token是新的通用货币
当推理成为主角,一个新的行业通用货币就诞生了——Token。
为什么Token这么重要?因为它是推理服务的天然计量单位。模型调用一次,消耗多少Token、花多少钱、耗时多久——这些都是可以精确度量的。有了统一的度量单位,行业才能进行横向比较,才能形成价格体系,才能走向成熟。
陈庶说得很直白:算力是投入,Token是产出。用投入衡量能力,是训练时代的惯性;用产出衡量能力,是推理时代的必然。
这句话点出了问题的本质。训练时代比投入——你有多少卡、多大集群、多大数据集。推理时代比产出——你能稳定产出多少Token、每Token成本多少、服务SLA几个九。
从"投入导向"到"产出导向",这是行业成熟的标志。
师天麾观察到,今年WAIC上有一类产品让人印象深刻——围绕推理引擎、Token计量、持续评测和智能调度的产品,把算力产出转化为可以衡量、比较和交付的服务。
"可以衡量、可以比较、可以交付"——这三个词很关键。一个东西只有变得可衡量、可比较、可交付,它才能真正成为商品,才能形成规模化的市场。
Token就是这样一个角色。它正在把"模糊的算力"变成"清晰的服务",把"不确定的性能"变成"确定的产出",把"卖方市场的供给"变成"买方市场的选择"。
这个过程很像工业革命时期的标准化。在零件没有标准化之前,每个工匠做出来的东西都不一样,无法互换、无法比较。但有了标准之后,市场的效率就上了一个大台阶。
创品做设计也是一样的道理。我们为什么要建立"五维评估体系"——好看维、专利维、合规维、成本维、量产维?就是因为设计的价值如果不能被量化、不能被评估,客户就没法做判断、做选择。把模糊的"设计好坏"变成可以衡量的多维度评估,这本身就是专业能力的体现。
三、共识三:Agent是最大的增量变量
如果说推理是确定的方向,那Agent就是推理需求最大的催化剂。
这个判断也获得了8位高管的高度一致认同。
姚欣的说法最锋利:99%的Token都会由Agent消耗,而不是人。现在人类和Agent的Token消耗量还能打个平手,但未来Agent才会是Token的第一用户。
99%这个数字可能需要打个问号,但方向是明确的。为什么Agent消耗的Token会远超过人类?因为Agent是7乘24小时不停运行的,而且一个复杂任务可能要调用很多次模型、很多次工具。人一天可能问大模型十几个问题,一个Agent一天可能就有上万次甚至更多的Token消耗。
艾智远的判断是,未来AI基础设施的竞争不会只停留在单点性能,而是更看重复杂任务中的连续稳定服务能力。
"连续稳定"这个点很重要。人类和大模型对话,一次对话结束就结束了,中间断了也不要紧,大不了重新开始。但Agent不一样,它要持续运行、自主决策、完成任务。中间任何一次服务中断、任何一次性能抖动,都可能导致整个任务失败。所以Agent对基础设施的要求,不是简单的"算力够不够",而是"服务稳不稳"。
余武旺也表达了类似的观点。他说,未来竞争不会只是拼GPU数量,而是拼整个系统的协同能力,包括AI网络、高速互联、能源保障、资源调度,以及能否快速响应不同业务场景。
Agent带来的不只是量的增长,更是质的变化。它把AI从一个"工具"变成了一个"劳动力",而劳动力对工作环境的要求,显然比工具要高得多。
从设计的角度看,这很像产品从"单机功能"到"系统服务"的升级。一个单独的家电产品,坏了就坏了,影响有限;但如果是一整套智慧家庭系统,任何一个环节出问题,都可能影响整个用户体验。所以系统级的产品,对可靠性、稳定性、容错性的要求,比单品高了不止一个量级。
创品的"保障力"说的就是这个意思。不只是保障设计能落地,更要保障产品在长期使用中的稳定性和可靠性。做单品设计和做系统设计,难度不是一个级别的。
四、共识四:AI工厂和Token工厂是共生关系
随着推理和Agent成为行业焦点,两个新名词开始频繁出现:AI工厂和Token工厂。
这两个概念是什么关系?是一回事还是两回事?是竞争还是互补?8位决策者的看法也惊人地一致:二者不是对立关系,而是共生关系,是同一事物的两个侧面。
董直烨的解释很清楚:AI工厂的概念更宽泛,覆盖从数据处理、模型训练、微调、推理到应用分装的全流程;Token工厂则是聚焦智能最小单位——Token的全生命周期,本质是把算力转化为标准化的Token产能,更侧重推理侧的效率和确定性。
师天麾换了一个角度来表述。他说,二者的概念异同更多是一种观察尺度和叙事重点的区别。AI工厂强调的是完整的生产体系,Token工厂则是把视角聚焦到推理和服务交付环节。Token工厂可以理解为AI工厂在推理时代、特别是在大规模Agent应用场景下的一种具体运营形态。
陈健则用分层的方式给出了结构。完整AI工厂分为两大模块——训练工厂和推理工厂,而推理工厂就是行业所说的Token工厂。他还指出了二者之间的核心差异。
第一个差异是需求体量与长期占比。长期来看,训练算力占比会萎缩到10%左右,85%以上的算力需求将归属Token推理工厂。
第二个差异是集群设计逻辑完全相反。大规模训练任务是典型的超大规模单一计算任务,允许外部互联网络临时波动,但无法接受集群内单点硬件故障;而Token推理是线上持续服务,可容忍单张GPU失效等集群内故障,但无法承受对外服务互联网络的不稳定。
一个对内稳,一个对外稳——这个对比很有意思,也很精准。训练任务是内部的,只要内部算力不中断就行,外面网络有点波动没关系;推理服务是面向用户的,内部某张卡坏了可以调度到别的卡,但对外的网络不能断,断了用户就感知到了。
这就像工厂和商店的区别。工厂里面机器偶尔停一下没关系,只要最终产品能出来就行;但商店如果关了门,顾客就直接走了,影响是立竿见影的。
创品做设计也常常面临类似的权衡。比如做一台医疗设备,内部结构怎么布局、零件怎么选,这些只要不影响最终功能和可靠性,都有优化空间;但用户直接接触的操作界面、显示信息、安全防护——这些是对外的,一点都不能含糊,因为直接关系到使用者的安全和体验。
设计思维里的"内外有别",放在算力基础设施上同样适用。
五、共识五:后Scaling时代效率为王
后Scaling时代——这是今年WAIC的另一个热词。
什么意思?就是单纯堆算力、堆参数的方法,边际效益在递减。过去你把参数翻一倍、算力翻一倍,模型能力基本也能翻一倍。现在再翻一倍,提升可能就只有20%、30%了。
Scaling是不是失效了?8位高管的回答也高度一致:没有失效,只是优先级变了。
师天麾的判断是:Scaling并没有失效,只不过靠扩大参数和堆叠算力,已经不能再自动换来等同比例的业务价值。训练和推理规模仍会增长,只是行业必须同时回答成本、能耗、延迟、稳定性和商业回报的问题。
付智的说法类似:后Scaling并非不再Scaling,而是进入一种更加精细的系统Scaling、效率Scaling和调度Scaling。
陈庶也提出了同样的观点:Scaling并没有结束,但是它的优先级在下降;模型能力的上限仍然在向前推进,但竞争的焦点确实在转移。
三个人的话虽然措辞不同,但核心意思是一样的——规模仍然重要,但规模不再是唯一的、甚至不再是最重要的竞争维度。在规模之上,效率的权重在快速上升。
所以"后Scaling时代"的真正含义,不是"不Scaling了",而是"Scaling alone is not enough了"。光有规模不够了,还得有效率、有成本控制、有服务能力。
这很像制造业的发展轨迹。早期拼产能、拼规模,谁的工厂大谁厉害;后来拼技术、拼质量、拼成本控制;再后来拼品牌、拼服务、拼创新。每个阶段有每个阶段的核心竞争力,企业的能力结构必须跟着阶段走。
创品的发展也是同样的路径。早期做设计,拼的是创意和效果图质量;后来拼的是落地能力和成本控制;再后来拼的是整案服务和系统解决方案。每上一个台阶,对能力的要求就更全面一些。
"四力"框架——创新力、专业力、控制力、保障力——就是在这个过程中逐步建立起来的。因为我们越来越深刻地体会到:单一能力再强,也撑不起一个复杂的项目。客户需要的是端到端的解决方案,而不是某一个环节的亮点。
六、共识六:玩家正在加速分层
最后一个共识,可能也是最残酷的一个:赛道玩家正在加速分层。
当行业从增量扩张进入存量竞争,当竞争焦点从规模转向效率,马太效应就会显现。头部玩家越做越大,尾部玩家生存空间越来越小,中间的玩家要么往上走、要么往下掉。
陈健对这个趋势的描述最直接。他说,当下Token工厂赛道的玩家正在加速分层。具备万卡GPU集群和全栈调度优化能力的头部玩家,优化后集群TPS和单位算力Token吞吐能拉开中小玩家10倍差距。
10倍差距意味着什么?意味着同样的硬件成本,头部玩家的产出是中小玩家的10倍。换句话说,头部玩家的Token成本可以做到中小玩家的十分之一。在这样的成本差距面前,中小玩家怎么竞争?
陈健把玩家分成了三类:头部算力服务商、大模型厂商自建集群、中小型算力服务商。各有优劣,但门槛越来越高。他的结论很明确:稳定大客户订单、强GPU供给、顶尖性能优化能力三者缺一不可。同时具备的头部玩家会持续收割份额,中小玩家的生存空间正在持续收窄。
这个判断可能有点残酷,但大概率是对的。几乎所有走向成熟的行业,都会经历类似的集中过程。汽车行业如此、家电行业如此、互联网行业如此——算力行业凭什么例外?
董直烨从另一个角度印证了这个趋势。他说,头部云大厂的优势是生态体系完整、品牌影响力强、标准化产品成熟。但劣势也很明显——服务高度标准化、灵活度不足,而且在数据安全与商业隐私上的中立性存在天然短板。
这意味着什么?意味着即使是头部云厂商,也不是万能的。它们有自己的优势领域,但在深度定制、中立性要求高的场景里,专业的第三方算力服务商仍然有机会。
所以分层不是简单的"大鱼吃小鱼",而是各有各的生态位。关键是你能不能找到自己的生态位,并且在那个位置上做到最好。
设计行业也是同样的格局。大型设计集团做整案、做战略,小而美的工作室做精品、做特定领域,个人设计师做创意、做风格。每种路径都有成功的可能,前提是你必须清楚自己的定位,并且把那个定位做到极致。
创品的定位很清晰:做有深度落地能力的
工业设计公司。不追求最大,但追求最实——方案扎实、落地扎实、结果扎实。我们相信,在任何行业格局下,真正能为客户创造价值的能力,都是有生存空间的。
七、共识之外的想象空间
六个共识梳理下来,你会发现AI Infra行业的方向其实已经相当清晰了。从训练到推理,从规模到效率,从GPU到Token,从单品到系统——这些转变不是某一家公司的战略选择,而是整个产业发展到这个阶段的必然方向。
但共识之外,仍然有很多不确定的东西。
比如,Agent究竟能发展到什么程度?它会像移动互联网一样彻底改变人们的生活,还是会像某些曾经火热的概念一样慢慢降温?没有人能打包票。
再比如,Token工厂的商业模式最终会是什么样?是像电力一样的标准化公用事业,还是像云服务一样的分层服务体系?是少数几家寡头垄断,还是多层级的生态共存?答案还在风中。
还有,国产算力的崛起会带来什么变量?如果国产芯片的性能和生态逐步追上来,整个行业的成本结构和竞争格局会不会被重新塑造?
这些问题,可能明年的WAIC上就会有更清晰的答案,也可能需要更长的时间来揭晓。
但不管未来怎么变,有一件事是确定的:行业正在从粗放走向精细,从扩张走向深耕,从拼资源走向拼能力。而那些能在效率、服务、系统能力上建立优势的玩家,大概率会在下一个阶段走得更稳、更远。
百舸扬帆,向深海驶去。故事才刚刚开始。