评价体系变了:从峰值算力到"每瓦 token"
2026 年买 AI 芯片,再只看峰值 FLOPS 已经不够了。训练集群看的是"单位时间能跑完多少有效步数",推理集群看的是"每百万 token 摊多少电费、多少折旧、多少运维"。同样一张卡,放在 PUE 1.2 的液冷机房和 PUE 1.6 的风冷机房,三年总拥有成本能差出三成。于是行业里越来越常听到一个指标:每瓦 token——用一整柜设备的实测吞吐,除以整柜的功耗,再除以电价与折旧,得到"每美元能产出多少 token"。
这个转向背后是需求结构的变化。AMD 首席执行官苏姿丰在 2026 年公开表示,AI 推理会驱动下一轮增长,到 2030 年数据中心 AI 加速器市场规模有望达到 1.5 万亿美元,而 2026 年是"推理元年"。训练是少数大客户的资本开支,推理是几乎所有企业的运营开支;前者拼峰值,后者拼能效与稳定性。评价体系一变,追赶者的机会窗口就出现了。
英伟达:财务事实比参数更有说服力
先看可以核验的数字。英伟达 2027 财年第二季度(截至 2026 年 7 月 26 日)营收约 962 亿美元,同比增长约 106%,其中数据中心业务约 752 亿美元;上一财年(截至 2026 年 1 月)营收约 2159 亿美元,数据中心贡献约 1937 亿美元。单季数据中心收入已经超过很多分析机构对整个市场规模的年度预测,这是"卖铲子"逻辑最直接的证据。
份额上,不同机构的数字差异很大:有分析师估算英伟达占全球 AI 加速器市场约 75%—87%;按 2026 年上半年数据中心 GPU 营收口径,有中文研究机构给出的份额高达 93.8%;而在中国数据中心 AI 加速器市场,IDC 的数据显示 2026 年上半年英伟达份额约 34%,同比下降 44%,华为约 28%,平头哥约 7%,昆仑芯约 4%。三个数字并不矛盾——全球 vs 中国、GPU vs 全部加速器、营收 vs 出货量,口径不同,结论自然不同。看份额之前,先问一句"分母是什么"。
产品节奏上,Blackwell 架构在 2026 年进入大规模交付,GB/NVL 整柜方案把 GPU、CPU、网络与软件打包出售,客单价从"一张卡"变成"一个机柜"。这对客户的含义是:采购决策不再是比较板卡参数,而是比较整柜的交付周期、功耗、网络拓扑与软件栈。谁能让机柜更快上电、更快跑满,谁就更难被替换。
AMD:第二选择的性价比,与生态的真实差距
AMD 是 2026 年唯一在规模上被视为"第二供应商"的 GPU 厂商。分析师预计其 AI 加速器份额可能从 2026 年初的约 13% 升到年底的 20%—25%,驱动力来自两点:一是云厂商不愿意只有一家供应商,二是推理性价比。MI400 系列的定位很明确——用更有竞争力的每美元吞吐,去接那些"训练已经定型、推理要上量"的订单。
但"第二选择"不等于"平替"。差距主要不在硬件参数,而在软件生态与工程经验:CUDA 十几年积累的算子库、编译器、调试工具与开发者习惯,不是一代硬件能抹平的;ROCm 这两年进步很快,但在长尾模型、自定义算子、多卡通信调优上,仍然需要更多工程投入。对企业的实际影响是:同样的模型,迁移到 AMD 平台可能要额外付出 2—6 周的适配时间,这部分人力成本要算进总账。
所以 AMD 的机会集中在三类场景:推理负载标准化程度高、团队有较强工程能力、采购方有明确的"多供应商"策略。反过来,如果团队规模小、模型迭代快、依赖大量社区工具链,贸然切换平台的隐性成本可能高于硬件省下的钱。
中国变量:34% 与 10% 之间的口径差
中国市场的数字最容易被误读。IDC 的 2026 年上半年数据显示,英伟达在中国数据中心 AI 加速器市场的份额约 34%,华为约 28%,平头哥与昆仑芯合计约 11%;而 TrendForce 的判断是,2026 年英伟达与 AMD 在中国高端 AI 芯片市场的合计份额可能降到 10% 左右。两个数字差了三倍,原因还是口径:前者统计的是全部数据中心 AI 加速器,包含推理卡与中低端产品;后者聚焦"高端训练芯片"。
另一个可参考的趋势是国产替代的速度:有研究机构测算,国产芯片在中国市场的占比从 2024 年的约 30% 升到 2025 年的约 41%,2026 年国内高端 AI 芯片出货量预计增长 83%,国产出货有望突破 500 万片。这个增长不是单纯的技术追赶,而是供给约束、政策导向与推理需求三者叠加的结果——推理对生态的依赖弱于训练,给了国产芯片切入口。
对采购方的含义是:不要把"国产"当成一个笼统的标签。训练、推理、边缘、合规专供是四条不同的产品线,成熟度差得很远。把业务按"能不能容忍精度损失、能不能接受框架迁移、有没有数据出境限制"拆开,再分别选型,比喊口号有用。
三足鼎立的真实含义:三条赛道,不是一场拳击
"英伟达、AMD、国产阵营三足鼎立"这个说法,容易被理解成三家在同一张擂台上比参数。实际更像三条并行的赛道:
- 训练赛道:比的是单集群规模、互联带宽、故障恢复与软件栈成熟度。英伟达的整柜方案与生态仍是默认选项,AMD 在特定客户与特定模型上切入,国产芯片主要服务合规与自主可控需求。
- 推理赛道:比的是每瓦 token、单位成本、弹性扩缩容。AMD 的性价比、国产芯片的本地供应、英伟达的软件优化在这里同时竞争,客户更容易按"每百万 token 成本"做决定。
- 合规赛道:比的是供应链确定性、数据与出口合规、长期供货承诺。这条赛道的胜负不完全由性能决定,而由"能不能持续交付"决定。
把三条赛道混在一起谈,就会得出"谁吊打谁"的情绪化结论;分开看,才知道自己该买什么。多数企业真正的需求是"训练用少量旗舰卡、推理用大量性价比卡、合规场景用国产卡",而不是 all-in 一个品牌。
算力成本怎么算:四个变量决定真实单价
第一是 token 单价。把整柜的采购价、电费、机房改造、运维人力、网络与存储分摊到三年,再除以实测吞吐,得到每百万 token 的成本。厂商发布会上的"每 token 成本下降 X 倍"通常只算了芯片与功耗,没算利用率和空转。
第二是利用率。训练集群的利用率取决于任务排队与故障率,推理集群取决于波峰波谷。一张利用率 35% 的卡,真实成本是满负荷时的近三倍。很多企业买了旗舰卡却跑不满,最后单位成本反而高于中端卡。
第三是 PUE 与电价。Uptime Institute 的年度调研显示,全球数据中心平均 PUE 仍在 1.5 以上,先进液冷集群可以做到 1.1—1.2。同样的 IT 功耗,PUE 从 1.5 降到 1.2,电费直接少两成;这部分收益与芯片品牌无关,却常被采购忽略。
第四是折旧与残值。GPU 的迭代周期约 18—24 个月,三年后的二手残值高度不确定。把折旧年限从 5 年改成 3 年,账面成本会明显上升,但更接近真实的技术淘汰速度。财务模型过于乐观,会让"看起来赚钱"的推理业务实际亏损。
四种典型采购组合
组合一:训练旗舰 + 推理性价比。少量最新旗舰用于微调与关键训练,大量上一代或竞品卡用于在线推理。适合模型迭代频繁、推理量已经上规模的企业。
组合二:全栈单一供应商。全部采用同一品牌,换取交付、软件与运维的一致性。适合团队工程能力有限、追求稳定交付的企业,代价是议价空间小。
组合三:国产推理 + 进口训练。训练留在成熟生态,推理逐步迁移到国产卡,兼顾合规与成本。适合有数据本地化要求、推理占比高的行业客户。
组合四:云上弹性 + 自有保底。用云厂商的按需实例承接波峰,自建集群承接稳定基线。适合需求波动大、现金流敏感的企业,关键是算清"云上单价 × 时长"与"自建折旧 + 运维"的平衡点。
被忽略的第四方:云厂商自研 ASIC
讨论"三足鼎立"时,很容易漏掉一类不对外销售的芯片:云厂商的自研加速器。AWS 的 Trainium 与 Inferentia、Google 的 TPU、Meta 的 MTIA、微软的 Maia,都不进入公开零售市场,却在自家云里吃掉了大量推理份额。它们不参与"买哪张卡"的比较,而是直接改变了"要不要买卡"这个问题的答案。
对企业的含义很实际:如果你的负载是标准化程度高的 Transformer 推理、流量稳定、又愿意接受云厂商的调度与锁定,自研 ASIC 往往能给出更低的每百万 token 价格;代价是迁移成本、议价空间与长期路线的不确定性。反过来,如果模型迭代快、需要频繁换框架、或者要把集群放在自己的机房里,通用 GPU 仍然是更稳的选择。把"自研 ASIC"放进备选清单,不是为了追新,而是为了在报价谈判时有一个真实的参照系。
还有一个常被忽略的市场是二手与租赁。旗舰卡迭代快,上一代产品在租赁市场的价格下降明显,对推理这种"不追最新架构"的负载,租用或采购上一代卡可能是更划算的方案。前提是算清故障率、保修与备件,而不是只看单卡时租。
供应链:真正的瓶颈不在芯片本身
2026 年的供给约束集中在三个环节:HBM 高带宽内存、先进封装产能、电力与机房。HBM 的产能分配决定了高端卡的出货节奏;先进封装决定了整柜交付的爬坡速度;电力与制冷决定了集群能不能真正上电。很多项目"卡拿到了、机房没准备好",上线时间被推迟半年,这部分机会成本很少被写进采购报告。
所以选型时要把交付周期当成一个硬指标:不是问"什么时候能发货",而是问"什么时候能在我的机房跑满第一个生产负载"。从到货、上架、组网、压测到业务迁移,每一步都要有人负责。
90 天评估清单
- 第 1—2 周:把业务拆成训练、推理、合规三类负载,分别给出精度容忍度、延迟要求与日均 token 量。
- 第 3—4 周:用真实模型做小规模基准测试,记录吞吐、功耗、故障率与迁移人力,不要只看厂商白皮书。
- 第 5—8 周:建立三年 TCO 模型,把电价、PUE、利用率、折旧、网络与运维全部计入,算出每百万 token 成本。
- 第 9—12 周:确定"旗舰 + 性价比 + 合规"的组合比例,并锁定交付与上电时间表。
2026 年的 AI 芯片竞争,表面是三家公司比参数,实质是三条赛道比"单位 token 的确定性供给"。谁能把能效、利用率、交付与合规四件事同时算清,谁就能在推理时代把算力变成可持续的生意,而不是一次性的资本开支。
资料来源
- NVIDIA, Quarterly Results, FY2027 Q2 (quarter ended Jul 26, 2026)
- IDC, China Data Center AI Accelerator Market, 2026 H1
- TrendForce, China High-End AI Chip Market Outlook 2026
- AMD, Investor Remarks on AI Inference and Data Center TAM, 2026
- Uptime Institute, Global Data Center Survey 2026
- Market analyst estimates on AI accelerator market share, 2026
美辰信息技术为制造与外贸企业提供 AI 应用落地与数据流程梳理服务,涉及算力选型、推理成本测算与系统集成,可通过官网联系方式沟通。