TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:# d; l; p3 h, y- L' l$ {
6 i% k1 O& {% t+ a, g一、总体分析框架与核心结论9 r) I. }& _0 o% r
1.1 分析框架概览
7 C- p S Q) C$ N: a拆分维度
6 `; ~" {1 U9 N3 u/ K! N7 F2 ~: r3 {4 }3 O; i% W6 X7 O* {5 I
阶段:: L7 {9 |1 b" h0 z/ z& j
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施$ f/ ? Y9 g1 N/ p
运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等
8 C: @! d- A3 Y3 I7 S& J区域:
/ J7 h% g g. x中国、美国、欧洲、中东(以海湾地区/UAE 为代表)
' V$ s# U! F' t; ^技术方案:
/ i9 k. j6 R6 e# ZNVIDIA(H100 / H200 / B200 / GB200 NVL72 等)
- G) b% `. u) f) H5 P3 MGoogle TPU(v5e/v5p/Trillium 等)
O- k( D, f% j& f5 N中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)" L+ a. \( ]& o }& Q" |& w+ v
算例基准
% e) y) q, u9 D: m6 Z* |' D: B, |5 C2 ?( A+ ?0 B3 T3 ]: c9 b
以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:
+ ?( w2 D( S X其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW- W8 U3 ^" M0 X: ~$ t+ m
PUE 假设约 1.11(高效液冷场景)[1][29]
5 o& u6 c: P) z时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]+ U' q$ r5 }: Y2 E3 c. t
关键指标5 {5 _( b+ j0 s" K- K
. {( G: v' _; \% A& }
$/MW 建设成本(含/不含 IT 硬件)
3 H0 W5 R/ T/ r$ W, N$/kWh 电力成本、L/kWh 水耗& Q) O, h& H7 x5 P5 Y8 b3 G6 w
$/token 或 $/百万 token 的综合成本/ t# P/ M3 u: D9 W! u& x3 @
Token-per-watt / Joule-per-token 作为能效基准[17][18][26]
& Y) Y2 h( N, M1 U A) x- p% G项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)
; x; D& C4 `. V; C; S" m1.2 高层结论(供决策快速参考)
$ b7 V* G& T9 O: v- d建设成本:AI 数据中心相对传统云数据中心成本翻倍) J7 v K& Z/ Y* T) |3 k- ?
% T9 [ }3 Q& K9 ]
传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
0 o( Q0 s; r: E6 D) K. ?2 F$ uAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
1 P+ w4 J& _$ v7 K& ~! m: G8 J0 f3 x按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。
$ |, O$ O+ W" D% Z9 N区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区
7 ]7 T, O" A4 U6 ]1 l1 R1 c$ Z; |6 r4 _( v- M# [
中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]
1 k$ v& F* e/ R/ k4 J5 F; {: J美国:$8–12M/MW,400 MW 约 $4.0B[1]9 a5 i+ L' A3 [7 E
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]% q1 \% k/ @ R) k) T% v6 E8 t. @
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]8 y" N. a7 T0 K5 k- c
结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。* |! q6 V3 H$ |
OPEX:电价与人工决定区域优势
6 H9 z5 E7 k# Q# a+ m$ b0 y
) _. Q. E# t. b' n Y ]/ J2 Q6 N电价(2025–2026 工商业大致区间):7 f" Q8 H* ? r: C+ Q! `5 ~
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]
: b* P3 K" b) g/ X美国:工业用电约 $0.085–0.09/kWh[44]& U" v2 S& w- c6 \ x
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
) x7 i1 \# k% G中东/UAE:工业用户 $0.07–0.13/kWh[47]
" }! N! j9 h7 A% n* g人工:0 q, A$ ]" K8 W
中国数据中心运维:约 $22k/人/年$ {& ~+ [* ]- i1 u" P1 ?/ n( m
美国数据中心运维:约 $120k/人/年[1]
" `& |5 ?: e& O/ H. j- ^1 {6 X5 s结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。- S9 R+ r. r) l
能耗与每 token 能源成本:能效差异远大于电价差异4 S$ P6 ~1 n. X& U
) [8 z6 u7 R* i( v
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。
& V' n7 u3 n1 q7 J2 i4 e3 t大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。
" Z0 |( k7 _4 w- b( J( P$ Q* L8 P将 token 能耗约化为统一口径:
8 b, y/ j6 j1 b; M" ^5 e- q粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:- `( x& P+ ~: n9 O/ v3 K9 T# s
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
& N2 U6 J( m: w4 u9 b" h美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
0 @( |$ ~ `) _5 K' c! \对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。
* M( D( _" W+ g0 s不同芯片方案的核心差异( g; w6 X6 z! C" {0 F8 X# q
8 a$ k4 ^1 R# A+ {2 M, T% e6 {8 PNVIDIA Blackwell/B200 & GB200 NVL72:
$ d% |. p! r1 o5 p7 V' G+ l5 T单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。; m: d5 ~3 |5 `& \0 T
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。! g4 T- u" ~7 U: |( g0 b
Google TPU v5e/v5p/Trillium:" u& \, z3 P: A0 W; R4 O3 m+ }
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。
8 H" H" @- k$ {9 _* s' pGoogle 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。2 p) q* ]2 J8 s' I9 X
华为昇腾 910B:: } Z; T; I) n
FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。
2 _; o& K0 Q: ?& k单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。2 i3 V( a4 c# f3 D& z1 S
阿里平头哥真武 810E(Zhenwu PPU):
: u5 s: K3 g E: d# D/ U96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
6 E6 t6 M/ H) Q4 e结论:/ z' q, S0 M3 _7 m& T9 @
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。0 R' }2 y H& e/ z- }/ u9 o) Z, I, M
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。* _. l( s/ y: q
对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。
4 q' P: F+ B" u$ a3 w自建 vs 云租的 TCO 与 token 成本
$ c9 Q9 M6 x( i8 W. [6 I0 ?4 }+ q% }* w4 o( M! s
LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:
" }$ j& x3 _$ c5 K: Y8×B300(Config D)自建 5 年 TCO ≈ $1.01M;- n; {2 W4 f8 F; Q! H" y, q! A
等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。9 f- `2 b$ M$ x1 `
8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
( ]/ [; E0 y. p( c1 @- R( c rToken 成本对比示例(LenovoPress 场景)[28]:( a5 ]( w/ x; @% ?) F
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token; K/ _9 u4 H' t- _0 r
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。
7 d$ D$ |; P T ]$ W同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。, w$ Z4 N p* j9 k
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。# K3 Z5 z: |; \
结论:
8 ]$ X# J8 {5 G* W9 {高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
/ s) f* i+ [! S3 ^) q% B% y' EToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。+ j s `3 Y& Q
二、建设期成本分布:区域对比- E' L8 d8 ]; k- J$ R0 b
以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
& L# f. D" E( i
9 H! [+ S1 \! {/ q2.1 全球/通用结构(以 1 MW 为单位)
" K" o/ Z' Q) g' e+ {综合 JLL、ConstructElements 等[2][41][40]:
5 s' L! ^5 j& z* q$ c7 C' r
! M; g, a6 \: T! _5 ]壳体+机电(Shell & Core)# f- I" A$ _' ~4 L7 [7 |3 A- f' Y: R
- _( T0 A' ]/ x1 m5 V, E4 e全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]' u7 n Y) R- i5 j( I/ q3 }8 A
其中按成本构成[40]:
+ X/ R. U" l! S) T/ }4 C; p. H电力系统(变电、配电、UPS、母线等):40–50%5 _4 N- L- V9 U, e
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%( r; _1 X' V g- H" @- ~3 Y
建筑与土地、结构:约 15–20%
+ }9 |; |# p* ^" Q! G# @' }7 U: T其他(消防、安防、楼宇管理等):约 10–15%5 Q1 @ E8 K. e r) |
IT 内装与 AI 基础设施(不含芯片)
+ t# G8 e8 r/ `3 u( A5 k& i% m; _8 e4 p- c2 T- k
高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。8 p9 ^" C Y; N
GPU/加速卡硬件 CAPEX4 t4 h0 _+ ?! f
9 b) q; ?* ^9 {4 P% R
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。5 ]. g/ {4 N4 D, ^, I Z2 t9 ?+ H
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX3 d1 [; V9 V+ p; \8 d
结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):6 J+ M) x1 b4 @- o
3 P# Q2 N& A3 s/ x: x6 J
区域 典型建设成本(壳体+机电,$M/MW) 备注
# N- \: I/ n3 q中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]
' a8 g& ]1 u+ i+ O美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]' O8 T/ \9 V* }1 p3 {, z" C$ T
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
+ u* m$ l2 g& D \) ^中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]$ @- S) q5 X. |
结论:! ~( i8 X: f! c* K
/ D- U w, H9 k* @0 H单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
& P8 o2 X, H6 R若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。" G8 z9 V' S, p3 I' D. D9 H
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)! p5 y% [/ M6 o0 ]( m! q( N; r x
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
- @; h% c- m8 l4 a: C) r: L: Y x3 b8 \* Y- n
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT; ?+ E( r) N& f B4 G4 q
GPU 配置:
. y9 p, ]4 X2 k# g4 R% j有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);( r/ \3 c! f- Q2 I
每 rack 成本 ≈ $3.0–3.35M[34][69];1 ]8 ~3 D8 z4 N! P% _. @. x: D- ^" b
GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。
6 k5 N) m5 \2 |2 H7 V* @6 r& }5 O与不同区域壳体+机电组合:
) s* }/ i; u& y. j$ f
`' |$ w, `+ W. d以中值估算:" h0 D* I" C7 l
6 e% g: l! ~3 c中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B' C8 Y! X C- v8 t2 |) ~4 k2 T
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
4 ]2 G2 Y& j. L欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
2 r1 N3 q3 L' f5 W [! J: d, q中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B7 J( P# l' J! e
可见:
5 k" f! o) O$ R% l3 n7 X/ U2 k; k& G3 g F1 j- b1 s( x1 T) U: ?
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。2 t {; l: D: H% w; B' X5 L4 H
相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。
7 L5 X0 E% A+ b; Z _三、运营期成本结构与区域对比* Z, }" F* t k9 v
3.1 通用 OPEX 结构(高密 AI DC)
. p4 }7 I, M0 ~! N! T/ B( L6 {2 x- G% e结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:: o' e% `' A6 r' Q" g/ p
1 Q! M7 d9 D8 J( e
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。
# |8 Q( t; m6 ^; K冷却与水资源:
1 P5 Q; f1 f: h! k6 |# h能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。/ A9 `( z d% \2 M9 e* B+ r+ w4 [
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
" z$ [; ~) r$ P人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。# r# K. R% n+ w8 j; c) q
托管/物业与维护:5 Z3 S9 i' ?9 A9 o5 Y6 g# Q/ N
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];9 _% C! I# o0 O3 o' C& V. N( p5 }
硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
" @9 L) a7 P: P: u3.2 区域差异(以 400MW / 3 年期为例)
$ m" ]% `, ^% `* G使用 ChinaTalk 的电费与人工估算[1]:; Y# }4 D+ S9 g" Z* e. q
. R4 ]4 w8 w: L
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
1 C, I! Z# T8 a中国:约 $0.06/kWh → 3 年电费 ≈ $350M
6 N) _) A1 N$ `, c: J! a( E美国:约 $0.09/kWh → 3 年电费 ≈ $600M. W2 ?! j, V; A7 ]2 [/ o- C; {
中东:约 $0.07–0.10/kWh → $400–550M
8 s, T/ |% @$ w! w0 g+ R7 p _欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
# T- Z% H. o$ H# G' f水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:* N8 q7 g* D, C) ]* d+ |
美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]
5 l2 O o, K7 R% m$ a l三年水费级别:1 W( N7 a6 \2 M) T
美国:$40k+; i- Z& M4 v/ f& j, V i1 v
中国:$20k+2 ^5 z% d8 ]" n7 k6 u I
结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。. L* n9 c# l5 W: B2 v3 v
人员成本(3 年) – 假设 500 名全职运维:
# m: C: k) G) O美国:500 × $120k × 3 = $180M+; X, A7 `3 ?& q- I
中国:500 × $22k × 3 = $33M+
6 W6 j) V: j" d3 I差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。( K, p0 Y$ |+ u9 j* h% [3 x9 K
整体 OPEX 粗算(3 年) – 400MW 场景下:: _5 M0 @& X5 ?, S" i( ~- P' r
# s& O% q' h: g4 h& i项目 中国 美国
7 D1 d2 Z+ F2 R6 k& e- `电费 $350M $600M
2 l3 o% Q* n! @* f9 J5 g水费 <$0.05M <$0.05M8 }5 u9 u' j% V/ W4 n
人员 $33M $184M( z, I0 o, X" H) c2 ]
其他维护/托管 同比例估算,地区差异主要体现在人工与地价
& t. a0 p& V. t4 z1 d& Y1 N结论:
( H/ D( P! I( w; V
2 p9 ~( t8 j4 H) Y7 r2 G就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。: `9 F% d# ~( K9 w$ }- o' K, b
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
0 J8 e4 ^# j T* d6 M四、基于 token 的成本与利润推演
x0 ~" z, X4 j( X2 v% [. }4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)
! y4 r- d- d" o% D# c* j; O. v统一假设:; x W. H& L& g
! C$ u& b+ n6 k4 l典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])0 [& a7 v, ^, p1 O+ @) u0 K' ?8 x. O
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh4 u ]/ W+ O h$ M2 R
1 百万 token:278 Wh = 0.278 kWh0 n. z! I/ o" F- Z) ~ \
场景 A:美国电价 $0.30/kWh* w2 K1 q3 E' b/ n7 w L6 M9 g
电费/百万 token = 0.278 kWh × $0.30/kWh
2 _ k" B5 F; A2 M. r& ?9 g≈ $0.0834 / 百万 token% [* f& X( \: Y) M) F! p- `, _% t+ {5 Q
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh) X) y" ?2 m5 i1 \
电费/百万 token = 0.278 kWh × $0.042/ L- D, E9 d% _
≈ $0.0117 / 百万 token
6 E+ W8 y# ~; U' |7 x8 k0 \& H6 S2 F对比当前 API 价格(OpenAI 2026Q1)[62]6 R- r( q; E9 Q; |' G; Y* X
以输出侧为主(成本最敏感):3 F) V. w3 ^6 N4 v8 U6 w
4 c v* m @! l4 I& p
模型 输出价 ($/百万 token)+ o3 ?. g$ @! N# ]% l( N
GPT‑5.2 $14. D, H9 }2 T2 t" | @! h7 W4 `) V
GPT‑5.2 Pro $168# o, H0 L. @7 X; B2 l: i2 U
GPT‑4.1 $8
, w+ J. A* J2 l, @. p: cGPT‑4o $10
" {$ v& Z0 R+ l) UGPT‑4o mini $0.607 c$ l- f9 ?' I2 A2 [5 h- ?# l
则:6 A- G) t; y% ?, i* J& l" b
4 X0 L9 C: q- N/ V+ k% U在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。! c. A- x* g. _' H' p
在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。# u6 A) `2 x" n/ r3 t
相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
8 W q; F# q' ?' I u" R% F, i0 r结论:
4 C+ W* T/ t( R4 s7 G即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。) r! ?1 u; J( Z1 l# E
2 w7 `# W9 _ X5 x. P; D5 O4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
* L- K/ Z: v1 C) O* i以 LenovoPress 的 8×H100 Config A 为例[28]:
B7 M+ D6 L3 j; V# S( N8 {: q) O5 L5 E0 F! R9 @: Y
5 年摊销下,8×H100 本地推理 70B 模型:& K. Y5 x4 G" T% l8 H3 D
小时综合成本(CapEx摊销+Opex):$12.08/h% s2 L7 B- v8 L8 y$ g
吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
; X& q. n$ c2 q9 g3 j/ O8 L) y: r7 x成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
" Z, [+ e" n; t# j7 s电费在其中的占比:# M, Y; k, ]6 {2 C1 [2 |
Opex 6.37$/h 中电力+冷却约 $0.87/h[28]- p5 u0 K9 V$ v
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token# L5 k6 Z9 t3 E) h C& Y
电费占 总 token 成本 ~7% 左右。 m, _! b1 c* C! Q- ~
若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。
4 o' B9 v: A7 [4 X若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。
; V1 O0 S% z4 b: |0 Z) P- N0 G# r4 w) D% e( @
因此:
9 ]0 z! t I$ T' \4 @" Y; K: Z4 I$ N- `
在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。/ u7 b' h+ m4 ~ q
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。6 a. K4 D6 d2 I+ P5 K2 N
五、不同芯片方案的建设与运营成本对比
8 `3 z) y- x' U9 V' ]0 e5.1 NVIDIA 方案(H100/H200/B200/GB200)
' [# v1 ` s- |6 j" [+ G2 J6 c9 P& xCAPEX:2 M/ X7 ]- k" v% D0 L
9 z" P- E2 D. C- A
H100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。: m& Y# W/ c: H! Q, f& ~ x0 h4 h. u
H200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
, I' w, U2 @ Y* U' lB200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。% u0 m* `0 s2 a' H: ^! Q- _
GB200 NVL72:
# @) Z7 e( N, G# ` L每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。
: E$ C4 E6 s# V4 H, N冷却系统每 rack 额外 $50–56k[35]。
/ T( ?2 P4 h. ?! |) D$ `在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。
2 H1 t6 O2 i7 m! O; i6 _- `OPEX & 能效:
1 u1 f0 b. v1 W8 ?, u9 ~: j4 E3 Y8 t1 [6 r) J8 d
单 GPU 功耗:+ Q3 O3 J7 F5 y) q* D6 ^/ d2 G
H100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。% f Z* b1 @0 X! e% ^' W
H200:功耗类似或稍高,但性能/W 提升[9][10]。- s2 q2 Z5 O3 ]# V
B200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
@ w2 N" Q2 R( ^+ L7 m$ e" AToken 性能:
2 M, H" o% @7 f5 r2 `B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。; H* q1 n9 s* d5 D1 ^5 ~
NVIDIA 的优势:, H: C: w4 Y$ Y! E& `! \
2 O* s0 ?" N5 [$ b- Q
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
- N4 u |. {0 J$ m但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。: n1 \% `. J W- b6 F9 s
5.2 Google TPU 方案6 H6 x4 t' u! h1 X3 m. ?
CAPEX:
' r: h; b: V# B5 B) |1 m2 L
$ p$ A% b. q: M; D+ O- j单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。: O- n! B l; l1 U" ~/ h& m" j, g
GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。" q9 C1 f) q( b! a- n G9 B
8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。/ f2 u# J! j/ i
能效:
$ N6 g3 Y* G% a7 t, G- h) [2 {! }; ]' @5 ^3 f) |
TPU v5e vs H100:1 Q# W& g2 E o; W+ C5 K4 N# _! n3 o
同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。" h: C4 W; v4 I# S5 h. C! i
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。1 C/ \# y/ y& p3 b+ C
新一代 Trillium/TPU v7:1 ~1 o- d# _( l+ _: R5 y
能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。
$ {) M$ V- o8 W( A, O' xGoogle 方案的特点:; G, B/ }& a, Z# S7 W) D
0 L- K9 s7 S, }9 i( c% G3 A7 p自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
( P) S( g$ q y* P+ v R& s: ^2 N5 [对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。
2 l1 p2 h! `% m }0 X8 g5.3 华为昇腾 910B / 910C 方案6 e- ?- N& h8 x \5 b6 ~( X. t
CAPEX:
1 M4 J3 o0 K0 ]7 d0 R. E; u2 D$ h" [9 h+ I f% A6 z
单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。
+ i* y4 O) w2 r0 Q9 B: s与 A100 对比:
3 i, y$ w! d2 k! mFP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。9 d+ i* z5 q7 O u, h3 @" z* p
市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。
6 L/ r) C4 \: x! M) T% b6 E使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。% E; ]( q8 O' H( X; u1 b1 l. [' U
OPEX & 能效:. j' K( f6 C8 F& |" Y, t# A
- b$ D' L& M- M. x# M
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
5 l- N0 O! W) H8 \部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。. `% `! k! H5 r0 F: L v& O$ Y
在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。2 n0 N- ]0 i4 K) k
5.4 平头哥真武 810E(PPU)方案
% U& b7 I6 R. G. r) @) m l$ e9 ?CAPEX:0 [: A' \+ ]) M/ P) Z' w
( E4 i; }. Y+ n. L! o
技术参数:
5 \8 x+ g& W( h; @" S96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。' m) P( X3 \: W& B1 z7 j; U
性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
+ ^, g- z( a8 S' u. M n价格:
) b- B; }) g* h8 q/ q未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。: E# m( G8 G1 k3 f
结合国内报道:9 X% S8 Z$ l6 w" P$ \" w5 c, R9 H
2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。/ n! M, G3 V u+ }/ R& i
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。- ?2 A- f* _4 L5 M4 G7 }" {
OPEX & 能效:
; w- W5 T% \" ]# I* Q5 L" [3 i4 T# t" G: g* N: C6 D
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
1 e7 `2 d/ T8 d/ l- T在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。' F; X. P" J3 v# v( [: T
六、综合比较与策略建议
. a5 W* |3 C, |% T5 Y1 l& n& g6.1 区域维度:在哪里建 AI 数据中心?: y" O, ^% |* D: \
纯经济性(TCO/tokens)排序(假设无政策/合规约束):
% ~3 O" [5 b/ D( v% Q! u) ]& ~% s# {& C1 z7 @# R- I
中国西部/北部(电价低、人力低、建设成本低)
' o8 D6 e- t/ Y9 M3 ]6 r中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持): X" r* T1 f1 {( ?& z
美国电价低但人工高;东海岸/加州电价上涨压力大
- J/ C/ r, G* R$ X9 {欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求1 t, E+ `$ |* A4 W
若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:$ @9 p$ H9 a- p% @
1 g) i0 k; b9 s) m }6 q) F+ `
纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;$ c* {! U- p- E6 D" c
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;6 e6 h0 N3 X/ C: e7 J: B- g
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。
; j6 P3 B5 b- c6.2 技术栈维度:选哪家芯片/云栈?4 ?2 q2 t3 S/ R
若目标是全球最优 tokens/$ 且不受出口管制:" n6 l+ S8 B5 h* t
0 u- M6 {! N; A0 f8 Y2 bGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。7 |* `3 K! }: L, ?0 {* ^% `
若在美国/欧洲,能自由采购 NVIDIA:
# M& b" p- d/ B7 `" y R1 V0 i _% L0 w# w5 r& p
短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
5 ^% q7 M. }% R% `9 x# I3 k成熟的软件栈与生态,极高的 tokens/s/GPU;( o$ i* T }% t
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;* z! P( B V" o- a' l
但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。
* I0 T2 k% H' q. ?若在中国或存在出口管制约束:/ B$ m) C: ]; ?( h5 S
5 h: ~0 H8 T5 y" {% ~7 F昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:2 t* |" l* j- P2 Z, q0 e8 b
性能上已能覆盖大部分 GPT‑4 类推理需求;
7 P* n0 k. L a# _# a7 T* m单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;7 z1 m* w: S$ S# w. o
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
/ j0 u- V& C# P$ [建议配合:
) B" H1 q! {5 u9 p/ u" W/ m5 s高效液冷(PUE~1.1)、/ `0 v# q7 Z- K \+ g6 y
大 batch、路由(浅层任务走小模型/低成本芯片)、
& O& |2 `- A3 Z4 [% i强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
3 k) p, t7 j% V, o) V% I长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:1 f. D, M; d& R* A) R J, j
# ]& i1 e. l2 _$ A$ U数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];" F! w3 E1 M, l8 h$ u4 X
这意味着:( L. g3 z2 n- ]5 |+ N
优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);
4 D Q3 p" ~5 n4 _精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。 M9 I3 @* B: D E+ s% P. i& L
6.3 针对你关心的具体问题的简要回答
T: B8 r& q, S# d( B6 vAI 数据中心建设 vs 运营成本的大体比例?& ^1 w+ D8 i* |) W- X0 {* m$ e7 z
+ |) y& [6 a9 t* f在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。% J2 A. s- C7 U7 S5 f! h( f
其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
& s7 {# B8 h6 w0 _9 w: Y, ^% ^- t% l中国、美国、欧洲、中东的成本结构区别?
* Z; I4 _4 [' C% ]% T/ m5 X: G& _
( |- h* e0 C6 C9 L- x; |! J) D; ?建设期:
0 s4 O( n, e0 E; Q中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。9 M5 v9 _) [! c2 z6 y
运营期:
& }/ K2 @8 r- e2 b1 x( `5 g" t% L电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
, J. }6 E+ `5 L% j4 k8 i9 {) @人工:中 国 ≪ 美 欧,中东居中。5 A; A/ b6 J' K) a: C
在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?
3 V4 t, Y0 S1 P% s* e% K3 z& G" d" r. ? ]0 M, o
对于典型 1 J/token 推理负载:- } j2 U1 o3 g5 w
美国 $0.30/kWh:电费约 $0.083/M token. r, d* C7 N/ x7 e0 g' k9 Q! {
中国 0.3 元/kWh:电费约 $0.012/M token
/ Q! f0 s- q2 O! D9 y; B对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。2 [0 q u4 t4 j2 ] [" v G" J
不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?+ u; B2 L% I x, J# Q0 b% r
7 q. H7 Y! O5 B在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
0 F/ U/ F5 p2 V3 G2 H全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;) E' d5 R g6 v8 O$ U# E
中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|