TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:$ R& n/ J- O% ~4 @$ v' b I. o1 T
+ S2 T8 M4 J0 Q0 [. f
一、总体分析框架与核心结论
# k7 A1 c d- `3 g9 L1.1 分析框架概览- X/ Z1 x+ {' Q' t8 E8 s
拆分维度
1 q9 |% q0 w1 H/ c m+ y" D, |0 ?( {1 R: | j
阶段:& H$ a& O1 H5 E& G- [% Q" W
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施
- S0 y6 L) u$ F8 _运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等
, t) z- j3 y" G" X, u1 P9 O区域:
, U$ b# ]& Z( S* b中国、美国、欧洲、中东(以海湾地区/UAE 为代表)5 ^: q4 E! D s! k$ s# L
技术方案:
, p& J* ]4 j6 p/ B+ ^NVIDIA(H100 / H200 / B200 / GB200 NVL72 等)% R) Q$ u# u/ M& Q) u z; C% \! M( ?
Google TPU(v5e/v5p/Trillium 等)
@6 I, q5 k" T6 G W3 D" J中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)0 A. |8 a1 m( R8 ]8 ?
算例基准
. m6 `1 ` p6 b, h" @" R+ K+ ]: j
/ ?+ A( k; r# c以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:; R }2 k4 p9 S
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
( ^# u) w1 }( Y3 d3 n6 V* s# [ CPUE 假设约 1.11(高效液冷场景)[1][29]. i- E# `* s, N) Q3 s; k
时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]3 C! |# e! [" {0 R/ U# P5 g
关键指标' S# ^2 W5 M0 p f
0 z$ s7 `- F4 J8 L& K
$/MW 建设成本(含/不含 IT 硬件)
. t: {1 q. e& V! ]/ K& L$/kWh 电力成本、L/kWh 水耗$ ~+ B2 }1 Z6 o" Z2 j% t2 y
$/token 或 $/百万 token 的综合成本/ u6 l" v7 v4 L) r/ g$ b
Token-per-watt / Joule-per-token 作为能效基准[17][18][26]
( p) p& l7 Y" s1 G! H' B9 X7 ]' E项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)/ E7 w: q( i Z- u. q8 U
1.2 高层结论(供决策快速参考)& E: l! R/ T, q9 D2 i. p3 m9 m
建设成本:AI 数据中心相对传统云数据中心成本翻倍9 Q* K/ n! j- Q6 w1 A% |
: F. m" H. D; `) g7 E* Z5 o
传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
0 f/ W% t& B: s7 sAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
7 P. G9 i8 j1 y; x x5 m3 q按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。" ?$ L/ |1 A' {" h' B
区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区8 S! s$ M* h, s* z
" v2 \; R& _" B- J1 y# P- v- B
中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]9 |/ Q- A- Z. b$ k
美国:$8–12M/MW,400 MW 约 $4.0B[1]% w$ Y, u2 ~! @" ]
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]& r0 p5 o0 \% }7 @; H) M& G! [
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]
% Z% P# l8 c7 _0 }结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
3 C O: q' g* e& G8 g# n @( |3 sOPEX:电价与人工决定区域优势+ |/ a! [) B+ d6 T
) E( _/ T$ X8 S: {. t8 ?+ s电价(2025–2026 工商业大致区间):: f9 Q6 M! V, G$ K; Y7 c8 l
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]+ L3 E6 z2 I; b& }4 \
美国:工业用电约 $0.085–0.09/kWh[44]
% `5 Z% }0 x. K) g( M! o% Z欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
# K: E2 Z: S1 c) E中东/UAE:工业用户 $0.07–0.13/kWh[47]* Q# i, e @" a# m- |" y; g) C
人工:8 J/ m+ N# C0 F2 ^( k
中国数据中心运维:约 $22k/人/年
- D7 a4 O+ Y6 Y5 c' T4 w( z4 l美国数据中心运维:约 $120k/人/年[1]
) Z4 E% O; {: r, v' J$ O结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。4 }0 A5 _% X% R5 i3 x6 C1 z
能耗与每 token 能源成本:能效差异远大于电价差异
2 V4 L- S9 w9 z% Z* ~* K, S' [9 m9 L+ o" f: g. {/ O6 g; j
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。" R, C5 W) b5 t/ V n# y2 u
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。& @6 A0 X, ]9 ]! }
将 token 能耗约化为统一口径:+ W1 {. O" {) V" }) x. `# u
粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:8 G- i$ s h* j+ I" l, A
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token3 o" v J7 G- e: U* {; h
美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token8 v B/ O1 |; r0 S6 Y! f
对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。
% i8 Q: b/ @7 a% M' A4 b( w' Z不同芯片方案的核心差异
( e) ]7 x. J! {
% C% N% j# q' ~NVIDIA Blackwell/B200 & GB200 NVL72:8 f! @+ I( ?. L% P) }! n' n; V
单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。# n2 i7 X2 y/ q- H
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。2 B3 N( d, } c3 O6 w4 F
Google TPU v5e/v5p/Trillium:& f6 d) x* p9 Q0 v7 S
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。
" a7 u- R, P0 |4 X$ n& p( XGoogle 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。
" o$ m9 {; S* ^4 g7 }华为昇腾 910B:
. n" o {/ H. r* `% @1 @' W# l; `. EFP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。
9 [+ x! s) h- B9 W/ I单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。2 }2 \3 l5 z3 Z/ [; {
阿里平头哥真武 810E(Zhenwu PPU):" }9 Y5 F$ I! N% p4 O# `( w0 t$ e
96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
% H# D( L) g2 i$ x( }+ E结论:- W. y7 J0 B6 g) M, Z6 h4 m( L8 b9 @
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。: [+ I2 t; Z* P: `" p0 ]
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。$ ~+ F/ N6 _9 w8 W$ w) a
对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。 Q- @2 W$ [; @) k
自建 vs 云租的 TCO 与 token 成本/ x- d0 F1 R: B, G( c5 Z
1 O6 S4 b L6 fLenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:" ^: e, U. B' D! ^! V
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;! R# i6 F0 Z0 x( M
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。8 ?; L+ v- g, Z# K
8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。 _, b5 @7 ~* S' f8 k, K
Token 成本对比示例(LenovoPress 场景)[28]:0 x |: @5 o7 C- f
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token9 i8 [7 i, |% ^& t
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。8 ?( F& O% i' z9 e" B+ a
同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。- g4 }1 f" r& W( Y
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。$ a. @* T# P: R: @* h O
结论:. N# \1 M6 d1 W9 E# a
高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
' m" P9 T% ^& e3 U' oToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。
' O9 h. G! }6 L- I9 a7 ]二、建设期成本分布:区域对比( h7 X) w: W+ e
以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
( {* N$ Z" _; v. l) [; O
3 C9 n. N/ t8 F* y. b( e' [) s2.1 全球/通用结构(以 1 MW 为单位)
& p& @, H% e' O8 P& t. t; F综合 JLL、ConstructElements 等[2][41][40]:
# p* I. B6 |9 [, S+ W/ b6 K, q+ [
壳体+机电(Shell & Core)4 G% |+ c8 W p' O
8 X+ l+ `4 c9 I; ~% E. l% }. L全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
3 j9 _$ V) r# v# `其中按成本构成[40]:! B1 I9 Q" a f" f* \2 O
电力系统(变电、配电、UPS、母线等):40–50%5 L5 T/ N# Y; L8 h9 f: s" S
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%$ | v+ I3 c5 e, g' w- S
建筑与土地、结构:约 15–20%
! p& I; v7 D. L其他(消防、安防、楼宇管理等):约 10–15%
' F B' u' ]; L7 q8 W( k- iIT 内装与 AI 基础设施(不含芯片)" {2 [8 S1 [0 q, J( k) Z; ?% h
- M! I3 k2 S/ d! L& m高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。. q, _% B7 O/ M' A" H$ P* i) I
GPU/加速卡硬件 CAPEX
" Y( r% o) b5 _, }/ o4 R, W( Y- o( Y P
: W' U! ]1 l8 Z9 j' v5 H多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。
1 {% r$ I9 i3 I* }) Y2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX
2 ?' a8 k' J9 @/ @7 W结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):: [( \6 Y1 V+ a; c1 `3 a, [
/ {; p8 X) [7 Z区域 典型建设成本(壳体+机电,$M/MW) 备注
( D6 Y1 M) }0 G, V中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]
, ]$ j4 W- X) u2 Z美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]
# Z( Y( V3 I5 q欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
: l5 q5 V( Q! ~* n$ Y! g中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
' g* N5 m2 z# C结论:- q; s+ a. p& l* B. C2 ]
8 D2 x3 \( M: S' w- W/ `7 E单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
4 q! s Y A; s# N& P/ S若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。7 i; a: C/ h2 n0 V) t
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)
. @2 w0 y. T1 b: J以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
% ]9 J+ K7 M: z' W3 P: A) `: C) `* A
! @6 Q! _+ `7 H' t9 s* Z假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;1 P8 c$ E, K, u& o) P; H$ M) ?
GPU 配置:9 N( _& a; e" @# ]& z% N& M' I
有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);
) I5 I: P, ~$ R每 rack 成本 ≈ $3.0–3.35M[34][69];
+ g5 ^! p' e3 W: k# D& pGPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。
0 h6 L3 H% x* B2 e3 Z4 j- P与不同区域壳体+机电组合:
# l: h3 |8 R3 _; W/ a9 W, \* e5 r/ y5 C5 @' T
以中值估算:
7 A9 r2 J/ r9 q! [5 V( t X# Y) G+ E* z" G
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B
* g- F! c4 h; ?+ T美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
) n7 i7 x1 H* ~: r6 E" ]欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
+ i$ p) \' Y" P) c) U) X中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
* n i# K6 v+ L8 G/ ]可见:
/ y4 C3 k6 I: ]% F$ K; J# |
/ F' z+ ?& f. C4 h+ o _* S! fGPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
5 \/ C3 G) E+ v+ M相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。# g' g( T; E4 n
三、运营期成本结构与区域对比5 h1 J1 \% V( _: ]
3.1 通用 OPEX 结构(高密 AI DC); X- d4 j% [* [8 w% d d# K
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:( F8 e2 w/ W0 g* l! [8 S Z
6 G* x: F( n- T/ K电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。5 f1 o2 Q& v, i: ]- R) c
冷却与水资源:
1 G, E5 F4 K$ K" r( S) e2 r* K能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。. s. k4 S* o, w& }5 H; Y" n0 m
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
- y/ H2 V6 G F/ }9 W1 I人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。
+ X5 t- W2 }- L! F8 t- b托管/物业与维护:. c6 d! c2 x/ ~/ l
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];
, z p0 z( t# r5 d硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
1 x9 t0 A, _' |0 J' I! Q3.2 区域差异(以 400MW / 3 年期为例)7 ]/ M q. v( \7 z/ \, r2 a$ g
使用 ChinaTalk 的电费与人工估算[1]:
4 w& S' E6 w$ A( [! A: r& K+ y) q) f* Z Z& B) \
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
+ p1 R7 w! \0 e' J z9 L中国:约 $0.06/kWh → 3 年电费 ≈ $350M2 y( Z0 T/ R6 |/ k+ N+ U
美国:约 $0.09/kWh → 3 年电费 ≈ $600M4 v8 [9 I. ]% c! f' M% y' s5 D
中东:约 $0.07–0.10/kWh → $400–550M
( h* M; S: b' R1 ^欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
* M! P [' e ?0 C7 A水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
2 u# n: o# q9 d0 Y) M美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1], T- ?6 R* j l1 t/ ~ V) |
三年水费级别:# @7 A$ E2 w, j* n/ U" j
美国:$40k+
8 i# a5 i) R! }2 K" y: Q3 C中国:$20k+4 b' ^/ L1 |- A& Y/ Z8 A
结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
* h6 t# H" W' ]* w7 k0 L人员成本(3 年) – 假设 500 名全职运维:# f; w3 H, K; o0 e# k8 D' t/ l
美国:500 × $120k × 3 = $180M+
& x/ P6 R% Q: w8 m中国:500 × $22k × 3 = $33M+
7 m1 O) K& A: f, [% B) u差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。
7 G- W% M( b3 L8 e7 Z整体 OPEX 粗算(3 年) – 400MW 场景下:
3 q- b* e7 x, J) o( z2 C7 S
- g" ?$ T6 d: M% X2 _6 W项目 中国 美国
N) R$ B& j! }! A0 N电费 $350M $600M7 R+ }# S0 M3 W |' X Q& m
水费 <$0.05M <$0.05M6 s9 }% H7 u d/ ]
人员 $33M $184M5 V$ ]1 L) Y4 ]) |' H6 X
其他维护/托管 同比例估算,地区差异主要体现在人工与地价 & N* \$ x2 J, |; V- `3 Y
结论:
4 q# A: Z# K$ \ N0 S+ f
9 @6 O; B; ~( U' y5 o就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。
' g& ~$ }% H% l对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。, G% A8 x6 V& `7 Y9 ?8 O; l% ?
四、基于 token 的成本与利润推演
) v+ M% n- p( @3 R% @4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元): @+ p' j2 i/ Y8 s$ T
统一假设:+ h0 }) X( G- _) E; H1 x7 ?* ^
3 R" N# t5 C; a4 L5 n3 f4 ?& x3 M' q
典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])
/ B$ E9 S4 [" S8 B" @9 F1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh
, H. n4 ]0 D5 |; o9 z+ f- j1 百万 token:278 Wh = 0.278 kWh2 s* W z9 h0 u( }; N! }9 p! M
场景 A:美国电价 $0.30/kWh
, w# G4 I' N+ X \1 N电费/百万 token = 0.278 kWh × $0.30/kWh
6 e5 P' _& Q6 U4 v≈ $0.0834 / 百万 token' ]& a# Y R" p7 T9 g3 X
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh
, ^- S9 ]$ y( y* ]% J$ K电费/百万 token = 0.278 kWh × $0.042 K4 p+ R2 ~1 k/ R3 }0 t# M
≈ $0.0117 / 百万 token
V1 j- T# F X( }对比当前 API 价格(OpenAI 2026Q1)[62]
9 {6 d/ l5 ?) p% V0 z* J以输出侧为主(成本最敏感):1 P/ Q, f$ a- O( p
0 q, ^- x2 t4 B+ u) D模型 输出价 ($/百万 token)- f' O; S9 z' R! `. n: H9 K
GPT‑5.2 $14
* s, E. v. J7 @GPT‑5.2 Pro $168
U$ M) T" b% U8 K" \( iGPT‑4.1 $8# U; A2 ~6 ?! P8 N" O* b
GPT‑4o $10
. [7 R# d; h. U: E+ IGPT‑4o mini $0.606 m' M' A; G( n2 s
则:
6 H9 F! k8 U5 b, o: J
0 h' H) j8 O3 y6 c+ a: T在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。
4 i7 ^* P: R, @在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。/ a# O6 Q) P' H$ S; ?
相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。. c) a2 ^ u: Q4 n/ v1 {" o, n
结论:
& F! m5 B. r/ L5 ?即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。1 ~ c3 m: o0 i9 T j; S8 |% R
5 `, X+ G2 E( }# h6 Q3 l" i5 X
4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
/ c/ [9 P+ O- l, P3 H$ L以 LenovoPress 的 8×H100 Config A 为例[28]:, t8 N: L u' f! f4 _ A3 C
1 ?3 p. Q: u1 E& D
5 年摊销下,8×H100 本地推理 70B 模型:- P( w. A9 p1 l
小时综合成本(CapEx摊销+Opex):$12.08/h1 A5 l; `6 d, {2 T) }% M0 a/ i2 X& m
吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
/ a1 T4 g. n1 K/ c6 s成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
4 W3 c n. c1 [ R1 q电费在其中的占比:8 c5 H# j/ G: J* K9 h
Opex 6.37$/h 中电力+冷却约 $0.87/h[28]
) D8 r5 P o: [$ L) h+ b* l9 r* N电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
3 ^: O4 E7 [! Q" z- n7 X" c电费占 总 token 成本 ~7% 左右。0 Q1 @6 B' q& z6 R( C8 R( p
若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。
, t8 W1 y& |' w' V4 v1 v若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。
# y& C0 a, y. x) V7 m
% }8 e' v' a, J& [因此:
6 c: G# p; @- v
% i3 \- n* \3 P5 d1 e- d在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。& u2 Y, G7 V# a1 n% Y
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。% z) Q* w0 d- C# E
五、不同芯片方案的建设与运营成本对比
( [' j/ Z! _$ Q% e$ l) a9 M5.1 NVIDIA 方案(H100/H200/B200/GB200)8 k8 W A2 B/ |; T; w# F- L q. b4 r
CAPEX:
9 t! {. F, Z5 ?" H' _$ C: y, z9 |$ \8 a3 m" [8 I: }0 V7 h+ E: o
H100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
4 g: A) m% z5 eH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。! V/ W$ M+ {6 b! B0 v
B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。( J J8 A! D: G. E, k: J& M7 E
GB200 NVL72:
4 b; F) U" p# f* C每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。
/ S2 B7 D. Q/ m6 `+ E冷却系统每 rack 额外 $50–56k[35]。# c" @, O( k& U3 P& |' h
在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。7 w5 j" b/ S q
OPEX & 能效:* v. u0 I& F7 U+ Q$ O0 A2 l. V; J$ L- ^
$ i. M( e4 j" Q- T( c. h
单 GPU 功耗:
' o( n5 ?2 w7 j3 W S1 H% cH100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。: V/ @' ~1 x( ^ J7 ~/ g, A+ K
H200:功耗类似或稍高,但性能/W 提升[9][10]。4 m# h* ^) F5 [5 x; v( \
B200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
9 E; A4 a9 X6 e! j; L- g4 y5 m/ `Token 性能:
2 V+ c' R6 H y9 aB200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
, e/ d. k3 l: nNVIDIA 的优势:1 }7 C% J1 S. [, q9 T0 m8 P
! z: f: C0 H- |- |3 z9 P& W
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
5 Z. R: f8 v8 l8 B- e* H但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。
5 d6 ~. U5 h- Z2 x+ q5.2 Google TPU 方案8 Y4 a1 b+ e) D
CAPEX:) ]5 U7 g8 k: U# C
3 f6 R5 r' u& R7 K9 m @单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。
' f6 H k% ]# L+ HGSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。
1 _( M( L0 k/ K8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
+ b5 Z* J M4 v; s) u5 X# Q能效: _0 Q* w- ?/ _6 n9 v
: C& |4 j* \, G7 g M( U0 W: e
TPU v5e vs H100:
X8 z6 K/ F& X/ |# h* c& e% ~同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。
% O X" q2 M5 v0 t9 V测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。( U& r$ H# Z0 J( c
新一代 Trillium/TPU v7:1 w8 \1 i0 [2 K) o
能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。: _! q) U0 [) ~" {" r4 @% n
Google 方案的特点:8 a3 ^0 R/ d$ l3 `8 E
+ K# w( I' {9 o+ b' `
自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
$ g' i+ F4 H. p e; u! F. [对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。
0 S& I+ K/ X z+ t% ^( {3 p5.3 华为昇腾 910B / 910C 方案
5 h* h/ G' I5 I0 u7 S! [8 |CAPEX:
) _+ _9 u* D( u6 x, y# x. q& H
7 f! h7 q. P# [( g9 @$ ]1 q单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。
& b6 B) V0 i+ s0 K' n! [/ Q与 A100 对比:
! c4 a( b/ w; FFP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。
" q4 j9 B- e ~9 A$ m% g市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。6 I+ j0 J9 W+ m4 W% u0 O
使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
7 p" G$ _- {- ~: }OPEX & 能效:
. D, B3 b, H P
9 B" B. E; n3 Y8 O' X! Y& ~1 X910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
) n$ S7 ^7 g+ ]( V! K. w$ H Y/ f部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
- d$ G. `3 i2 @6 q& l/ Y5 W& G! h在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。4 e' h# n6 h8 K& J& W
5.4 平头哥真武 810E(PPU)方案
8 y0 k- K! s* G2 wCAPEX:
& @6 z1 J- L) q% J6 r+ f7 U' p# s" E8 b0 d" F
技术参数:1 P% J- z! h( J' f
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
$ U2 l- G/ B% o4 c) N% b- g性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
4 V' y! M8 w( v, B( F" ~价格:
# _8 P2 k5 S4 x未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。
/ Q+ D- o) ~. l$ s- [- v8 @1 j结合国内报道:' [& N, E7 T( N X
2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。$ `. n! z7 s& j
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。
7 S3 h& Y3 L+ h+ r7 {5 D3 G# TOPEX & 能效:5 N `7 F# v2 z
5 l3 L& j; M& w/ k6 h5 E; j& Z
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
) z- B. d; R! P! H在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。! a! t/ @* A( ]
六、综合比较与策略建议4 J& r5 M+ e- M" g
6.1 区域维度:在哪里建 AI 数据中心?
4 X+ ]' h# X) V" E# p- m纯经济性(TCO/tokens)排序(假设无政策/合规约束):
9 w0 a3 E/ a3 i7 c# g
4 R8 T4 e c/ d. @7 O中国西部/北部(电价低、人力低、建设成本低)0 E" x$ ^/ K' C% J! |- j
中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)
) y( X$ v, b' \0 Y- ~: @美国电价低但人工高;东海岸/加州电价上涨压力大
, j) a% z( v U9 K欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求
d1 Q5 o% E ~若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:( R0 R: p7 Q) J& [2 p
- g6 E: _9 r) s' h
纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;5 d* g0 F( r- o% q) o" s/ _- C
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;
, l% \. r0 H: t. T8 ?! }0 F, E* }0 N+ b" @但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。, e" B5 F7 [- ^/ ~) V5 u
6.2 技术栈维度:选哪家芯片/云栈?
; g5 C5 R* v$ q. P9 e" l& }; K若目标是全球最优 tokens/$ 且不受出口管制:
. o+ J; ?# s% _ A5 q- _; P$ M; V( b6 W6 W
Google TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
- N& v6 b' Z4 b9 z若在美国/欧洲,能自由采购 NVIDIA:/ U3 X8 _" E; J& e. }9 ~1 U8 P
& o2 D0 L! J( Q" n6 n短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
2 u0 t0 j/ \) w* j成熟的软件栈与生态,极高的 tokens/s/GPU;! v* s1 Z q3 R1 r# Z4 f8 b+ d
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
9 r; u$ K" u1 o- J3 n0 m! C1 v& n( l但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。/ p/ v) ] L5 l9 @' a5 I1 _
若在中国或存在出口管制约束:2 H8 c u# j/ F3 n1 |2 L
4 i* ~; h' ~. H' V& p) a2 Z# Y2 b昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:; M$ T5 h0 M9 e4 w* u! n+ G d4 r# q
性能上已能覆盖大部分 GPT‑4 类推理需求;
' D( d, b! m/ E3 _9 y; b$ a4 a! q3 W单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;/ f% j: f* q! d' B9 g- x
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
* u$ }& T2 f1 ] |! _建议配合:
4 O: J. Y) W/ ^; e, i" ?高效液冷(PUE~1.1)、
- P8 }) R: A) i大 batch、路由(浅层任务走小模型/低成本芯片)、
/ S) i6 ~: j/ n5 h% r! W- [+ ^强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
; L; f% n/ O6 Q2 a' e- S长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:1 z/ ~) }! M8 M8 Y( q* M
1 I. t$ N0 O! P8 m: i
数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
0 i& x" e% O' @9 r这意味着:
& U1 J! M8 T0 h, C b优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);" F/ F" A9 Z; b r% }1 c
精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。
. z+ ~+ D, E" n0 {- [" A% |6.3 针对你关心的具体问题的简要回答* y c; x. t' ]6 ?- A
AI 数据中心建设 vs 运营成本的大体比例?
4 p; P7 V* r" }& v) W) H4 D1 k' c" r7 }1 W2 E6 _
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
3 [8 X4 E; b' e其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
; ^; U5 G/ z8 O! q6 H& W7 q7 p中国、美国、欧洲、中东的成本结构区别?. [: m& q6 t- S9 S% B. n
* b4 G5 u- K, V9 T- j# J: C" {; k建设期:
2 Y! c! E5 l$ [5 A8 z) J, _中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。7 Q1 E1 x' G+ T/ \
运营期:
* u m$ `) ^) |0 b" v电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
. v7 {3 A0 x: h9 ?人工:中 国 ≪ 美 欧,中东居中。# z, y, {+ P% L+ w u- Q
在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?: C8 F" O6 m3 E2 O7 B V5 E0 }3 F
2 c) p9 V+ L+ f$ I9 U) \对于典型 1 J/token 推理负载:
/ d+ ~# Y. i7 l* t# Q3 p* A+ n美国 $0.30/kWh:电费约 $0.083/M token
& b) {3 U$ k" o9 t中国 0.3 元/kWh:电费约 $0.012/M token* I0 v6 l& E! B( k9 l: u) X( o
对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。
- W: X& d$ k. o; G6 a' o4 v3 G不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?
1 k( [; I, Z2 n2 o
+ N) k0 W0 k! ^" f9 Z在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;! u- Y( S/ a5 x, U3 H4 H9 {
全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;, B4 v0 A& P/ T9 ^3 E& j$ B1 M( p/ s
中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|