TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:
) @8 ]/ ?; E; W7 S' W9 C. I- }( @+ d, Q+ P( i8 {8 t% v2 h6 B
一、总体分析框架与核心结论
- s3 R7 t% Q3 L# s# @1.1 分析框架概览1 _' l1 }9 e! @- ~/ j5 @
拆分维度
( \1 r9 C3 a# b2 L, r- y' P* ]; ]5 E1 B+ i! x% h1 c( W
阶段:; q1 Z5 {$ t4 M* G5 `# S9 |+ c" Y
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施& b/ \. F& I+ U- n3 G7 d
运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等7 @# w3 i, O E0 r" k
区域:
( O! _1 O# X1 I1 k# _中国、美国、欧洲、中东(以海湾地区/UAE 为代表)7 b/ o. @0 g2 {- |( z) E! x
技术方案:
% b! e, D0 ?2 N9 m: o; c' iNVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
9 [0 b" w/ F1 T" P$ O* TGoogle TPU(v5e/v5p/Trillium 等)
8 o2 h G. X3 g6 v/ f% k4 i9 S中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
6 }6 N; S7 e2 C6 Q0 N h" W5 f; C& M算例基准
" r4 }+ S0 Y8 o: v8 j/ c% s: f! k
& u5 O4 {7 ^7 T C6 W以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:
7 h: P+ b" U# U; e其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
/ l& D" v2 G& JPUE 假设约 1.11(高效液冷场景)[1][29]
- c% x! w0 f# \! j! E; K( v9 N时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]1 Z5 j2 s- y; j1 w q g1 U
关键指标
/ m4 k/ \6 m8 j0 _, E) c! g4 O9 A& F2 c; q G% N
$/MW 建设成本(含/不含 IT 硬件)! H2 o- D8 k" e% m! ]
$/kWh 电力成本、L/kWh 水耗2 l7 C# `! F3 B1 G) A
$/token 或 $/百万 token 的综合成本
8 E$ `0 X. d b5 nToken-per-watt / Joule-per-token 作为能效基准[17][18][26]: a7 Y' Z, }' d% e
项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)8 R9 G) u4 p1 Y) U T
1.2 高层结论(供决策快速参考)
9 a s3 p8 j7 G4 p. g; [建设成本:AI 数据中心相对传统云数据中心成本翻倍! Z' Z# K7 C- ?; k
) m9 o( C5 V# I5 U7 F- h
传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
6 K ~" @: Q4 O/ F3 FAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
. a9 q0 L! Y, ^- ~按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。
4 }6 S: T5 a9 n( m# b6 m区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区% q P" u* p5 n) {: i2 _
* y! v, h& N7 V3 `; k0 Z7 r% x
中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]% e B7 t- g" j- J1 V- _$ b
美国:$8–12M/MW,400 MW 约 $4.0B[1]2 T, n+ \* s7 a& j
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]. M2 Q7 n0 q% s9 I5 x G; N [
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]; m6 W5 o% _: n$ m$ x- e
结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
4 Z4 t1 D* h+ Y- `% L8 eOPEX:电价与人工决定区域优势+ U1 L# V# d' p P2 M% b
+ I X+ D! B. S# O; f电价(2025–2026 工商业大致区间):% Z- E0 s) W2 X. s7 {9 P
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]
' ^" \5 G* P L. s8 c美国:工业用电约 $0.085–0.09/kWh[44]
% y9 I G4 B2 f欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]) o1 t( D8 j' u F
中东/UAE:工业用户 $0.07–0.13/kWh[47]
' i3 ~' H9 \6 ]% @人工:
# z3 c2 R# N9 p1 M3 q中国数据中心运维:约 $22k/人/年
! {" m5 @2 ^7 e* M+ j6 @: m美国数据中心运维:约 $120k/人/年[1]
3 u$ L6 h: O" @! y结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。. X: i! s1 p0 ~! t0 @) J2 u; v
能耗与每 token 能源成本:能效差异远大于电价差异. ^/ W% f, V' e( J& u! M
1 k* d9 \: |. _6 k8 N
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。0 u) U* T, p$ P' c4 k: k( M3 a
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。; _: K" F+ { j" r) {
将 token 能耗约化为统一口径:# d. u/ R& N! C( x
粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:% g3 B; D. {) Y8 M' M. V
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
' V) ^) a) \) b美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
* N, C$ E3 P$ o& U" M( H5 k; }- f对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。% |( j' D. a" r7 d; y0 Z# p! |% X: n
不同芯片方案的核心差异
. S. R0 ^" J3 a1 z3 y z3 \' O: T6 p) X) B1 @2 K
NVIDIA Blackwell/B200 & GB200 NVL72:$ i o0 U0 v% O% s; J
单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。
5 u- b: M# A9 U! V+ Z* `' DGB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。
8 Z. l! Y1 |- T! R5 n! A2 hGoogle TPU v5e/v5p/Trillium:' y/ a* [! H1 F3 U* f# I5 Y1 o
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。1 O- A7 ~/ k3 M
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。
9 x% b$ H) ?# G华为昇腾 910B:4 C0 f' S7 w+ h
FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。4 x6 R5 S) \$ W: c6 v
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。
3 l/ W# f0 f$ a: K1 P9 G$ Z$ u阿里平头哥真武 810E(Zhenwu PPU):. j- O$ j/ R( @# p$ K
96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
' x7 g" E7 Z+ @, D结论:
* _# v' G. D" n9 l) j能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。
% v2 R' O8 K+ y" Z) @/ t/ K单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。 g' [4 ^7 [8 {, G3 M; M
对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。8 r- _* x% p# Z+ W, A# x. c
自建 vs 云租的 TCO 与 token 成本
: u( \1 i3 x8 b$ S
2 F& ^3 \) W0 A% m' W7 l" W3 i" y1 bLenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:; X a7 h& T- o+ Z
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;7 e1 f# Q1 ^* @. I
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。" a+ J* d; }2 w1 \0 Y4 g% A" Y
8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
# w, N8 m" j3 Z3 E' g7 w0 p1 l* SToken 成本对比示例(LenovoPress 场景)[28]:
& `; Z- i. h( QLlama‑70B 推理,8×H100 本地:约 $0.11/百万 token" Z: M5 L( ~+ ~: z
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。
9 C. k' ^ d& {( n g- ?同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。" c3 }$ E9 z, _* t/ k+ R0 U& h ^( V
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。4 W: s* n/ E( w6 K
结论:, ?' L- E6 n* w
高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。" v# W! u( I, I4 o) {6 L; D
Token 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。 m* x2 A8 e4 N! W1 g" {: t P
二、建设期成本分布:区域对比% [3 l: h: ]2 n* b
以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。+ F" Y0 K+ T l B# X
; C+ I* T5 M4 k0 ?3 U6 W
2.1 全球/通用结构(以 1 MW 为单位)
+ O; I. p5 m/ j' ]' d2 J$ n+ g+ z: O综合 JLL、ConstructElements 等[2][41][40]:( L5 V/ G9 F% R% S0 J$ @; t
^ x6 W+ P2 Q; M5 J1 _/ H% [- a
壳体+机电(Shell & Core)/ y5 Z% V- W6 {! i
+ F& P% N# ~/ O2 R( V$ W
全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]! N2 |$ C' y" G$ v; s! r+ C
其中按成本构成[40]:3 \5 q' H1 y8 ~/ L
电力系统(变电、配电、UPS、母线等):40–50%! I, n* c# v! @0 Y+ k( r
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%2 E- q4 T5 i& K4 D7 I% n
建筑与土地、结构:约 15–20%
( q3 O2 s# D& Y. M其他(消防、安防、楼宇管理等):约 10–15%: P' L% A' D" X7 R7 V q
IT 内装与 AI 基础设施(不含芯片)
5 c) R9 r, a5 q, C# s" U$ ?( M. h$ S. \8 W9 B" \
高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。" b" N3 X; ~& Y3 R
GPU/加速卡硬件 CAPEX
3 K3 _/ n8 A; Z! @; R8 h `9 H5 C! j8 J4 s( `$ m% [/ c
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。
5 h& [% T# \# W2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX
) A+ O2 |- l; z. b2 g9 F结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):
8 s6 D; T5 L. T# Z" I. d% _8 J9 X3 G
区域 典型建设成本(壳体+机电,$M/MW) 备注
1 [. \. {2 C) G% H" c& \: N中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]
0 g/ I7 ]$ \, W% D美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]: y! J, \* R# f: r1 q. S
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
( \" V! J* _- V! ^" ?# O- k* j0 ~中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
2 Z. Q2 a X; H, R1 q I4 M结论:
( B F: V5 z! @" V
" L' E6 T$ z! _, _2 c$ @单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。+ P8 d3 r5 N, J' j& E. A4 z! y
若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。" Q- ^) z2 z" m
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)
/ z0 e6 q9 e3 A3 Y( I5 {/ w以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:3 D& s, v4 S- W3 d) F8 m% K5 N
4 c, y) D1 s/ Z0 {6 `
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;9 R8 P/ {4 Q; h& ~
GPU 配置:) r3 |- N1 b0 ?6 Q2 I0 s6 B
有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);3 i8 j' ~, ^1 P3 N2 k' Y2 X, f
每 rack 成本 ≈ $3.0–3.35M[34][69];
, N& T2 f i; P6 |GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。' x7 L5 L( l3 E# @, _! d
与不同区域壳体+机电组合:: ]1 ~1 P0 S- z B
- W. S. Z* A7 }0 Z, E3 n3 r. \
以中值估算:
7 t% _4 y d; F4 d; ]/ [/ w$ b- u4 t) x
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B7 f" K! ?8 z" J( P3 A* x0 C2 K4 m+ e
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
# c5 k/ q& T4 O: m) i% v欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
! @" n" ?8 K' w( K4 `中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
. W1 R3 L" |( c" r ?8 C可见:
, D; N0 s G$ Q8 j4 i) v+ }4 D, J/ n% W$ I4 d$ D$ c
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。$ Q3 u1 \! R( Z$ j4 ~4 p
相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。
1 X# `, j. q( ?$ B三、运营期成本结构与区域对比2 K/ P5 d- k. |3 O1 o
3.1 通用 OPEX 结构(高密 AI DC)( {% n+ }3 {( |- C" h x
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:: W% {) D$ o2 l1 j- G* v
5 A0 u& H E9 y7 S4 Z2 S电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。: M2 s6 K ]% x
冷却与水资源:! n: d! ]$ k( x9 V
能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。
* k/ Z. ^ C% ~* Y水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
3 c' E& m+ c/ C9 |" h# W# w8 j人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。5 T1 D2 ^/ A- P; d& f8 K' e
托管/物业与维护:0 R9 M4 s6 P% f
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];
8 e" O1 u8 j& M4 E$ ]- x+ `% f8 ` E硬件维护:LenovoPress 模型中按设备价 12%/年[28]。; d8 h; a5 {7 Z
3.2 区域差异(以 400MW / 3 年期为例)& v1 u8 Y% Q; F; I% N% m) |) H
使用 ChinaTalk 的电费与人工估算[1]:
8 k7 m7 h( x+ d" K& {8 X8 P3 E5 z7 b. D9 f$ |8 d& l# b
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
% i- C: I. y. P) |7 c) L* e中国:约 $0.06/kWh → 3 年电费 ≈ $350M
+ n3 h' a. q( G; i! g. E" H6 p$ ?美国:约 $0.09/kWh → 3 年电费 ≈ $600M
3 Y0 t* y! P% O8 Q% `* q. m中东:约 $0.07–0.10/kWh → $400–550M3 P2 c7 N8 k2 h
欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
1 S( h0 I4 }: |/ N水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
( {' d5 J: K7 l8 W" k* r. R美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]
6 Z3 b7 V9 J; j( b1 @& ^三年水费级别:
# _3 f+ J2 H+ F* i- a$ v; ^美国:$40k+
3 T6 z/ a$ _& e; z% L; M+ X" f) m中国:$20k+
1 X) e J+ ]0 a& y) s7 c结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
; n# C, e! U8 f: n( F人员成本(3 年) – 假设 500 名全职运维:( U$ h+ q! D0 R/ D) x6 K6 f2 g
美国:500 × $120k × 3 = $180M+
9 X- X9 e; ?9 O6 f" w中国:500 × $22k × 3 = $33M+
4 ? a3 [ g" h, W- {1 p差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。
6 r" B* \5 m" c+ E g整体 OPEX 粗算(3 年) – 400MW 场景下:8 S4 R* u' Z0 n
" j: ]/ [; v. f1 v项目 中国 美国
4 p0 U, {8 m/ V' U% I! T电费 $350M $600M
' Z4 }! E, y! T7 j水费 <$0.05M <$0.05M
& Z. A# O8 U: w2 g人员 $33M $184M6 s8 H1 o" p# R
其他维护/托管 同比例估算,地区差异主要体现在人工与地价 % v0 g' C0 w+ [% t- C) a$ \/ r" E
结论:& S3 ~3 V3 l6 |: q: ^
4 T! r: w Q, N% D4 u. c: C就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。
3 D9 `4 H* z' _. p" h对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
# x8 w3 I) K) I0 K5 L' O O四、基于 token 的成本与利润推演. U4 S' S0 g( `9 t/ W
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)
6 r3 E2 U# N) @6 H: v统一假设:' u, F. Y, t0 c
) l1 K2 j8 Z5 x
典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])
4 {8 A1 u* E3 I" f1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh
3 X9 H% T: E! U! _' Y0 b1 百万 token:278 Wh = 0.278 kWh
& M- r, x& a- x2 j% o! `场景 A:美国电价 $0.30/kWh% a2 }( A, j7 E) q$ \
电费/百万 token = 0.278 kWh × $0.30/kWh
3 R. E3 N% H! m: u3 u$ n9 B w≈ $0.0834 / 百万 token8 t. ~- [7 l6 H9 u
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh0 o4 @* s7 I+ _6 }
电费/百万 token = 0.278 kWh × $0.042
$ T% u/ T# {4 ^0 l. h( Q7 w6 G≈ $0.0117 / 百万 token' j7 ?2 c2 ^3 J e6 F
对比当前 API 价格(OpenAI 2026Q1)[62]! a2 K" t" `, x: c3 }0 _* \
以输出侧为主(成本最敏感): B6 ]. i/ Q4 q# Z
5 z" ?# T) D4 |+ @% ]3 J
模型 输出价 ($/百万 token)
2 d; v+ S% }, k; _( V7 {GPT‑5.2 $14
4 E8 t L8 o7 ?2 O: WGPT‑5.2 Pro $168# r! @( l% y( l
GPT‑4.1 $8
3 }+ F* q( ~9 i* {' Q* A7 uGPT‑4o $10* I5 Z0 y. {1 P. ?1 x
GPT‑4o mini $0.60
- ~$ n9 P* e4 K3 [" Y& Q* A则:' |$ V5 S; e! \1 P& O
! B2 S! @0 d3 h在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。2 y$ p1 L6 x, M0 w; i9 |
在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。
# O$ k0 Z; t# w. n. L% v9 D- @相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
6 {" X1 y3 T" x; F! U' a3 Y结论:8 t5 A0 w' y* y. a' |! ? V6 K
即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。3 ~; X, W% _: `% ~
* K s) P9 X3 j# [+ o' @4 x% r0 l
4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)' m) [' N" i+ I5 E9 W6 b
以 LenovoPress 的 8×H100 Config A 为例[28]:% j+ i" _' U, Z$ k |' o
# Q& ^; R$ E: F5 年摊销下,8×H100 本地推理 70B 模型:1 v6 k7 T- T7 x9 D. B
小时综合成本(CapEx摊销+Opex):$12.08/h
0 x: e+ m/ I- D- {" a吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
/ h+ k3 P7 o. o" {' g成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token* | ~/ {4 a3 n
电费在其中的占比:& Y% ?$ M( I! u1 F1 e( W4 y
Opex 6.37$/h 中电力+冷却约 $0.87/h[28]
2 k$ x, A+ P0 I电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token3 e- H9 _2 {. S5 f
电费占 总 token 成本 ~7% 左右。. P& A9 Z% s5 R! U( ~. d( M1 _0 I& ^
若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。
2 C% e5 k( g% [7 P- a若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。- o3 ~ G: A1 n; K" g3 c( P; X6 ^5 }
/ S' s) k6 W5 }& Z
因此:
# W& T: d" ?9 @7 [2 ]. S6 P4 N" l4 D
6 I0 m* E# O% t在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。
2 o1 r0 P' I* G( e% Z在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
, m' n; Z% U/ X+ C五、不同芯片方案的建设与运营成本对比
& |0 O; q. _" l" U- E/ v- A5.1 NVIDIA 方案(H100/H200/B200/GB200)
7 Z2 N8 p* Q* K* o# q5 \ e5 w6 a' qCAPEX:
; s8 D3 o: I& ]% y- B2 z, C( u F( `$ G( h3 c7 I
H100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
9 w8 v& q; q! ~6 GH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。- `* O* M. F7 l2 M; |3 q: a
B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。4 ~. r7 q! S- j9 C9 t5 r
GB200 NVL72:
+ M E7 C# v4 [1 H每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。% [( j8 X3 b2 H _' k; h! B3 s0 M
冷却系统每 rack 额外 $50–56k[35]。2 i( s7 S9 g6 ]0 Z. [( u
在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。) G+ |, j, Y* j: s4 Y
OPEX & 能效:8 `1 \* `: ]2 z) s! b* h B
" L5 C- v/ G- d
单 GPU 功耗:; R( w7 @5 o4 h6 H- z4 w' U6 T: a
H100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。
9 B( Q# t" C8 H1 e. o3 }H200:功耗类似或稍高,但性能/W 提升[9][10]。/ i W' x8 W; F# D" c
B200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
9 _' o3 _; N- ?1 d. R9 r% SToken 性能:; ?4 q: ?4 l1 p: o" O+ U# n( P. \
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。& c% U0 Q$ H) Y! H+ x8 n
NVIDIA 的优势:! d4 |8 i! a8 {8 e) ?* m4 g$ j9 j
- k! D& Q, q' s5 p* h
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。1 |0 x0 _$ M( D# f
但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。
4 m J7 y2 r0 }7 z$ l- ]& N5.2 Google TPU 方案1 c+ l r: N& b B
CAPEX:
9 I( q$ n4 M4 q; A' ?; q7 H3 i
( ~+ O+ t5 N9 C, c! R单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。
4 D1 n, e) u3 n8 SGSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。1 }, g( L( X1 e0 F# P
8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。$ p$ t' r# Y" |
能效:) h. ~( a \8 X% t3 Z8 t6 o. H6 y
" V9 Q8 d# J" NTPU v5e vs H100:
" b+ H' F; a% z$ W8 l同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。7 ?4 n2 I L- C
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。5 X9 n0 A8 r+ R% Q: u
新一代 Trillium/TPU v7:
, C3 F. O/ ]( N* g O能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。/ l1 z) }0 U/ |' ^8 J. i7 `
Google 方案的特点:" k, b8 S# w9 k8 w
# I0 t, a( v" v# F自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
: C) f, O2 v R9 l对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。! S* E$ i8 x; w# J/ G
5.3 华为昇腾 910B / 910C 方案
3 L7 L. {- L8 U" E+ B8 H/ YCAPEX:
# @6 _* o6 ?8 C$ `* j1 K- S: t$ b# \8 X3 U* I l8 P2 c$ a
单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。5 o) { |7 q+ }; m8 K: u2 C- U
与 A100 对比:
- ]: h5 T1 g% t* b! vFP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。
9 o- r' u; y* X" w5 s6 I' {; U* ~市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。- p7 B3 r! v) B$ I
使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。6 c, Q: [& T) G! f5 O7 x7 k/ x
OPEX & 能效:
4 }6 D& o1 F$ M" h4 i$ _4 a9 p* Q( e* a" c' ~
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。0 S& B3 ^ N) m U" T$ Y+ i
部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。% c( T) c! l/ a+ g7 ~* w+ j# B/ q( U
在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。5 ]! Z. h8 H Z4 B; [
5.4 平头哥真武 810E(PPU)方案
& J1 k& L) ?4 R( Y% RCAPEX:$ a) c! |3 i; r$ V
7 {% a% f2 \ {
技术参数:
6 C' y/ o9 [8 B9 q" }96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
; y7 m2 m1 C. P% V5 `5 g. k( T9 A性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
. X& E1 M" p4 g9 X) J价格:
3 s% d. h, M5 e+ c0 A未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。
6 c; {6 G! w& {8 @1 Y结合国内报道:
1 b+ t* Z) o! [$ d$ f/ ~7 x2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。# U6 B( ]& Y4 Q) ?/ y6 z
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。' F1 {, _, G+ d' D" y S
OPEX & 能效:& o( p& _! y8 F8 |5 B, y
5 R( T. `7 N) c+ k7 O& h# W5 Q8 j, d400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
2 ^8 _/ q3 y% A/ {5 `在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。
+ M5 ]: }% C" w3 s3 s( w7 v7 I六、综合比较与策略建议
( Q) }8 o# D. w8 G& g6.1 区域维度:在哪里建 AI 数据中心?* A& Y& _# |: x) e+ f; i" g" Y" [
纯经济性(TCO/tokens)排序(假设无政策/合规约束):( E1 E( `' T) b" h1 T
7 T; q- @9 Y; N( N中国西部/北部(电价低、人力低、建设成本低)
% G3 q0 S# |$ S( `1 ]3 g& Z: X中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)
+ i% k' S. Y0 Q0 w& t& J美国电价低但人工高;东海岸/加州电价上涨压力大6 {! N6 K' Y& a- h- q* J1 c' ?
欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求
* E3 e5 }0 y( r. t若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:2 @) V; q, m& X5 s4 ?
! C. J4 k; G0 z# j" |
纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;7 D( @5 d: f7 l2 L9 l( _
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;
7 Y2 @7 i6 h( M4 m但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。
; m8 r% F) F9 M& G$ g; c6.2 技术栈维度:选哪家芯片/云栈?8 ]( |. g7 G) L3 y* \
若目标是全球最优 tokens/$ 且不受出口管制:
/ I* ]1 @& A; B( x
6 l$ R3 Z, H N' m5 R$ xGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
2 T8 |4 ^- s; v/ N. c若在美国/欧洲,能自由采购 NVIDIA: i9 i$ l" F4 `) l+ t
P9 r. ^6 F. _6 r! e. M. B( L1 B短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:6 g" k- v! A& m$ B+ M6 U
成熟的软件栈与生态,极高的 tokens/s/GPU;
9 k' g1 K1 E' I/ e: D4 }( M在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
# \, A7 _1 O5 Q( C$ w+ G+ \8 Y& g但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。3 o$ c8 Y7 u/ }/ {% g" K/ b4 Z( |
若在中国或存在出口管制约束:
+ P3 j/ ^3 t I: F4 @' H7 k( \6 j! B& m) m
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:
# d9 ]% n" l! C+ t( B性能上已能覆盖大部分 GPT‑4 类推理需求;7 j7 t8 c. _! d9 S6 j1 d$ ~
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;
# z! l' I) W1 p# ^ W( f: @; Y, O软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
/ p6 R! d# u' ^6 B( B建议配合:4 Z, w2 f0 X, M
高效液冷(PUE~1.1)、
" s8 `2 _* }* W k大 batch、路由(浅层任务走小模型/低成本芯片)、0 {7 ]% J0 f Y0 b6 ^. i% L
强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。8 | b# Y/ w9 l# L
长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:7 |% ^" w' N: }$ ?
! z4 v4 P3 R' m. f4 e数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];0 B+ {8 X' D: m# X
这意味着:$ D2 W2 ? m; p% i+ v: h$ W
优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);
! N6 f2 l0 ~; L4 N+ o1 u精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。- g7 _8 M5 O. g* o
6.3 针对你关心的具体问题的简要回答! Y1 b5 l& F" r
AI 数据中心建设 vs 运营成本的大体比例?- v- J) ~3 c, K; C/ V
' ^8 G" Z' F; l$ w$ x1 t0 y在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
" P4 R, P7 ]& H i其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
2 o T1 |5 h# ]7 D中国、美国、欧洲、中东的成本结构区别?
7 C7 ~ a. w* P, Q$ l& Q* I. u, x
1 E' A* R) t5 c( W2 E3 B建设期:
: f* E4 D; p% Q+ A中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。) B1 Z" N7 Z2 r$ `* S) n/ n
运营期:) A0 Y$ n8 t# o, r
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲5 a$ N4 C0 d7 h
人工:中 国 ≪ 美 欧,中东居中。" K0 q7 M3 C, E0 B* m) P
在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?5 x7 Q5 u" Z: H0 q' x% L
/ [( O; E! G: h* ^( W* ?4 \对于典型 1 J/token 推理负载:
: Z* a% c+ z; m8 M美国 $0.30/kWh:电费约 $0.083/M token
7 N. u# v1 z6 D7 s中国 0.3 元/kWh:电费约 $0.012/M token: q4 M; b3 U% v. u, M6 c
对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。
- f0 O7 i+ A/ F1 N2 ~2 b不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?
+ I8 E7 D5 l6 S5 d2 p5 q1 O+ e j
* |' x5 j6 P W" j: m在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;6 a9 Y: `+ j9 |2 {
全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
3 ~9 h+ V" S5 x* Y, ^0 ~$ P3 ?$ G中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|