TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:
# ^5 d" I. D* v, ~' x' y/ r+ f z/ Z2 {, V/ @ A$ c0 @5 f
一、总体分析框架与核心结论; X3 l$ _+ \2 y
1.1 分析框架概览" K3 p0 L1 B9 l: g2 |# E9 n/ T
拆分维度
8 p: V U4 R1 S7 i
3 y& I- h$ @3 V& t0 K9 d5 I阶段:
0 [5 R8 X% P6 e% H1 \' |8 Z6 K+ Q建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施. l+ G0 K; b5 b! E; {& w# @3 O2 V
运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等
1 I2 x; S$ R# R区域:9 x8 l* _; I0 m2 S- m5 T J
中国、美国、欧洲、中东(以海湾地区/UAE 为代表)6 m8 Q: c7 N6 V7 M$ t2 W. O
技术方案:
* I9 u4 B3 H. b, H7 ^NVIDIA(H100 / H200 / B200 / GB200 NVL72 等)# @# \: x3 B" l6 q4 U/ [
Google TPU(v5e/v5p/Trillium 等)
. w7 a5 Q4 W i, W中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU), p: F& q* |! E: A# W i3 E. K. l
算例基准( O- }0 z& s& p" A* l" q, m4 b6 B
3 ^) U, p X* G! j) \
以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:
: p9 N: |8 y; g其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW2 j6 @3 h" H( m
PUE 假设约 1.11(高效液冷场景)[1][29]
) S' i9 W) b( [8 w' V1 m时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]7 V$ Q a# m5 X* H$ V
关键指标
- z5 D& |: B7 }( B1 X
r& H% L0 ]& `7 P0 v& Y$/MW 建设成本(含/不含 IT 硬件)& j9 s: p' D+ q3 A
$/kWh 电力成本、L/kWh 水耗
+ a n) z$ a8 [, [( t" ~& Q$/token 或 $/百万 token 的综合成本
& W4 k0 d; W. kToken-per-watt / Joule-per-token 作为能效基准[17][18][26]
" P) G" @& p' r' ^* n- @项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)- T0 h2 {8 u6 P- d8 L/ D4 [7 x
1.2 高层结论(供决策快速参考)7 t! B* y# g/ V7 s5 ]- o& }
建设成本:AI 数据中心相对传统云数据中心成本翻倍/ o- H2 X1 L Z% F7 [, a# q( T6 `
' l3 F+ U' e- v2 d传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
5 Z9 M# x1 v" F5 u* x3 o% R# bAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
+ {/ ]8 b b1 h* W4 X按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。7 G- b" E i- w; K6 _: i
区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区
0 n4 I6 X2 l: r: |
! A* v* u! [$ q) U+ G" a" w中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]
6 {- R( f. y; l; S6 @" J$ @7 \/ U+ `% H美国:$8–12M/MW,400 MW 约 $4.0B[1]" F0 E. l$ x. {4 g$ x
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]8 A' d( P9 L- A- x/ N) _
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]$ i' E$ t0 v; p+ Q2 y
结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
( n3 j y! {' l; B5 K& L) c7 mOPEX:电价与人工决定区域优势
" Y& V6 D6 Z1 ]7 J; b( i4 d9 v% `* C0 j6 B+ J, B J
电价(2025–2026 工商业大致区间):
8 k" f" Y. g. L1 R; `( {中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]) N7 A0 V# V8 ]; i0 }8 `* d9 k
美国:工业用电约 $0.085–0.09/kWh[44]& |. _# B8 z4 _0 _9 Z0 y7 B
欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]3 \ T% j7 n; }9 _. D
中东/UAE:工业用户 $0.07–0.13/kWh[47]0 q3 ?8 p" l4 F2 I3 [0 J1 B
人工:
' K8 J/ H" o; t: u中国数据中心运维:约 $22k/人/年
- Y X4 i, K. B" ]美国数据中心运维:约 $120k/人/年[1]
! X ^9 ~- l7 c4 Q7 m结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。
$ V% P( ]* k/ k能耗与每 token 能源成本:能效差异远大于电价差异
1 A0 @' S! n. O4 L" S. `) p: g! S, W: d' ]# _( c3 z d0 m( o) i
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。; z0 h: d% @4 c$ c, X* s% U
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。' P9 |( _ t$ i$ e
将 token 能耗约化为统一口径:
- v9 v$ F# ]7 y) b) p粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:1 f- l% f( W( m7 |
中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token- d: R% t6 Q' `( ?' z
美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token1 w6 a. X4 [7 n7 Z
对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。
* Z) K7 G6 y$ U; |. L) V不同芯片方案的核心差异
O: t. y& C# ?5 h, Y5 ^
9 e, F* |: T3 B9 T. V, eNVIDIA Blackwell/B200 & GB200 NVL72:3 Y1 O# f# J. v+ x7 s( ~" P. O) a u( i
单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。- G) a: K& E) U; Z$ [
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。! S% r0 {0 S j8 [
Google TPU v5e/v5p/Trillium:
; r8 X! w8 w7 x3 e n4 R: I/ |TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。9 j$ B1 O3 r! t' U! {
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。! j) Y I' c. q" V0 s t
华为昇腾 910B:
0 V5 s0 Q8 ]; |9 ^FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。+ A* K0 C$ U) y b* h- ]
单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。
4 n; n L& z3 {4 x阿里平头哥真武 810E(Zhenwu PPU):
: q2 \: C1 u$ H' G6 \0 x96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。& ?" Z9 C# B9 f6 r$ C; F
结论:+ R, g/ C7 A" o: M6 N! Q
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。$ N' v- @: {( m" V
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
% f/ }" E$ d/ h6 O) X对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。% O. j+ ~* ]$ p! N; S. O$ p& C; u, ]
自建 vs 云租的 TCO 与 token 成本
9 [% g! _' p0 y
* a" J4 i- L$ T# ZLenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:0 _" t' h" S: F5 W- v9 f
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;
' E' ?0 W. u( R. R" I* x1 d等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。
- F) _+ a0 a& k8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。2 m& | e: m0 e- V( q
Token 成本对比示例(LenovoPress 场景)[28]:
. F1 }" w: H+ ?( L$ {+ jLlama‑70B 推理,8×H100 本地:约 $0.11/百万 token7 j9 D/ c9 }2 @ E1 X; Z
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。
7 |+ s% _7 L$ ^) B7 f同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。! i4 d0 K! A, q1 a+ _ \0 M9 O
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。5 t- \$ Z, U+ F# Z
结论:
1 B+ H. z Q; @ Y% z+ |; \高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
. O5 \! _5 X& e' {' x+ AToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。
3 a! n3 E1 y M m2 }5 ]* [二、建设期成本分布:区域对比
v/ T0 t9 U, U) \- v, I以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。1 h- F6 g$ P5 w; A
7 @+ G/ W/ ~8 v4 h7 U1 e$ A
2.1 全球/通用结构(以 1 MW 为单位)
- J: \7 { S% s3 q( a4 O# Z综合 JLL、ConstructElements 等[2][41][40]:6 k7 V* N: ] D+ A; T7 U
" W6 l+ {7 S, B# G; g. m
壳体+机电(Shell & Core)8 e j) E1 m2 W1 B( G) b- b) e
( I2 P; F$ G$ [: x0 X全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
3 A8 q' a. J9 f& m. i2 i其中按成本构成[40]:
# b. V" x+ J3 l9 |# X5 \% a3 q电力系统(变电、配电、UPS、母线等):40–50%
8 ?' b& ~, V5 e; b( _机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%. J* g: w# b3 |' O5 f
建筑与土地、结构:约 15–20%7 m% m7 ?% Z8 { l4 R
其他(消防、安防、楼宇管理等):约 10–15%+ X* O+ h/ f8 A' ` [; l( ]- d
IT 内装与 AI 基础设施(不含芯片)- x2 n( W2 l2 a) ^& L, p. w J
" W: P4 y0 e ^0 C, J0 p# A
高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。
% [+ k, S# J6 O$ ~* }GPU/加速卡硬件 CAPEX
' l8 x. z5 d9 x4 c3 W0 N3 k, F% k: J8 ~ i$ {7 E
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。, e* Q1 H9 n i% w
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX& k4 X3 H' O2 ?0 ~: h; L4 N
结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):
* f3 i5 g" b, X& M3 _& Y- R0 w5 @" v3 N0 f2 l$ ]
区域 典型建设成本(壳体+机电,$M/MW) 备注/ \" P6 h) l( p/ ?4 {
中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13] j* v* K a& v& f8 _" Q) S1 e
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]0 B; U7 [$ ?/ J- u3 o8 @; U; z# ^
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
4 T+ k: R/ d: J; }6 c中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
. |( k4 V& \+ j; W7 D结论:
: w v; ]/ I! ~8 T, `" D
5 ^& ?7 h! i0 V! L8 S单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。8 O8 u, \- x! O+ T& `# ~
若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。
1 r0 L6 Z, ^2 ~# o$ B2 i. @& ]2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)
" a7 y. k( Z' w9 R. H, t, J以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
) W' X+ t: a! H7 G5 e |
+ O0 M# q: H: s假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;
) m0 G9 n; V! {( wGPU 配置:
5 Z4 r% B. q0 t' C8 f* P' j4 D. Z有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);
# i0 p: y |2 \每 rack 成本 ≈ $3.0–3.35M[34][69];
" X, e& g3 O. _GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。
% Y. m, N# c6 {8 @# R与不同区域壳体+机电组合:
! I8 @% V" e$ H/ S/ l- S: i% C5 k: W$ f+ ?' o* i% E
以中值估算:
+ g0 @, i1 Y! ~6 g) m) k" T; B! Z4 G" [
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B
: B/ E& q7 U% y# [' X. H# s美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B
7 i: v B' k% T/ A" m2 V6 V欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
9 R/ d7 k/ O8 [ V! V5 j4 ~/ x1 S中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
6 H! a, O; D/ s% f! H; ? v k# c可见:
C+ v! h3 q4 h7 _6 C5 j* Z, S. C J4 A E; Y1 ^# s
GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。
! `+ Y# I u! e& \2 E) {# _& b相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。
9 y) ^( G Z+ ]* Q$ Z( w# `7 g0 p ?三、运营期成本结构与区域对比$ A, J9 E6 M9 P$ ^
3.1 通用 OPEX 结构(高密 AI DC)/ m' V: j3 m3 Y0 W. c* U+ h
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:! E& V0 r [: P
! l8 W6 M, S$ w5 z1 J电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。' y5 d2 |8 L2 g4 @- @
冷却与水资源:; N, j$ L6 D0 e, ]$ L6 r6 w7 G0 p
能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。$ V, e6 }9 p' g1 ^! e6 } u8 ]; F/ N
水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
' S) D/ ^6 {8 Z. g! p% Y9 d y人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。5 }# O1 e5 }" `: C# s2 m* `
托管/物业与维护: j& i. k0 k$ x+ e( `( V
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];
- C, F: y7 e2 V! a/ I2 j. w; @$ I6 ~硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
) C; c" D* u; w3.2 区域差异(以 400MW / 3 年期为例)
5 y2 `$ [; o% [0 N* d5 q使用 ChinaTalk 的电费与人工估算[1]:, k, m! c3 d" Y0 n, M0 y/ t
8 `6 u! I u) T$ h电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
9 p* k& P- Q3 @+ e中国:约 $0.06/kWh → 3 年电费 ≈ $350M$ i+ T# I8 [, l# v! u+ B7 j1 b/ a
美国:约 $0.09/kWh → 3 年电费 ≈ $600M* y9 E) ?8 [3 n5 }0 w
中东:约 $0.07–0.10/kWh → $400–550M- c& ]# L+ d7 L- N! d+ K
欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
. v2 h2 o% o( c; Q1 |水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
: K6 b6 D2 B' K7 A) P+ U# o美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]+ S' [- i. {0 l+ d% X" d/ ~8 t0 v
三年水费级别:8 a1 c4 U" w' |& F' P
美国:$40k+
$ T1 o, E. `6 O6 I0 i中国:$20k+0 j* L# o2 Y" G/ F
结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
3 T H% Z$ ~* ~人员成本(3 年) – 假设 500 名全职运维:& X' T# Z$ Y2 O# g
美国:500 × $120k × 3 = $180M+
2 K& V7 `* k: J中国:500 × $22k × 3 = $33M+
% l! O4 w2 N7 U/ @* L差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。6 j0 @" }. M6 t: @; i( c) e7 [5 Z0 M
整体 OPEX 粗算(3 年) – 400MW 场景下:1 Z5 Q3 h7 T5 \; G4 |) |$ Y: m
- A. K( ^2 z. @. l# X
项目 中国 美国
' Y1 |. G3 F/ [3 v( a电费 $350M $600M& B% A7 z) F) |7 y% J( S! k' M# _
水费 <$0.05M <$0.05M; D' I( ]* E9 k
人员 $33M $184M/ L& l* c; X$ ^ C5 t( S& q
其他维护/托管 同比例估算,地区差异主要体现在人工与地价
$ S) o5 q8 Q7 f% h* q, x* E/ B结论:; m# T/ N* B7 D5 Z. i D
; S! H- A* Z/ r3 q/ V
就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。
( l6 v" o6 n" V) o2 A2 z! t: Y对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
- p, m7 D* }$ u- f8 t7 C! E/ C9 q四、基于 token 的成本与利润推演2 Q( j" e' `$ Y8 }) F3 V2 ]
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)+ w! O4 q8 c/ b
统一假设:
6 H9 Y3 u! ]8 h$ x, s O
0 _, ]3 C0 @6 U F' p1 l3 ^" p典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])7 H j/ v, p# `# S) _: V
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh
* X8 U, h1 \; j& f& w1 百万 token:278 Wh = 0.278 kWh
: f9 ~* D6 J. @ D4 }场景 A:美国电价 $0.30/kWh- D7 V' ]& c* a8 |
电费/百万 token = 0.278 kWh × $0.30/kWh8 y' F8 A$ u8 J9 ^* N5 D! g8 I
≈ $0.0834 / 百万 token
9 ?/ w N j }! q' i6 c8 d8 H场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh# x g) D2 U8 h! T
电费/百万 token = 0.278 kWh × $0.042
* h2 }& u3 S/ z- r0 L≈ $0.0117 / 百万 token$ K6 K: j/ ]5 {5 N
对比当前 API 价格(OpenAI 2026Q1)[62]
: a0 \. P$ c( d: D2 e# z以输出侧为主(成本最敏感):+ n1 v. \! D" u" l
( A3 u6 R, _8 N# A
模型 输出价 ($/百万 token)
. x9 z# A! H. m$ H5 w4 x- \& p, @GPT‑5.2 $14! v, F6 H: r& n
GPT‑5.2 Pro $168
# k" c; w! a4 M j+ \GPT‑4.1 $8
7 M; ~; b7 r: U* k y+ FGPT‑4o $10! E9 J; v; r, R( @2 U
GPT‑4o mini $0.60
, O4 @+ b+ X4 ^9 N7 y5 g则:: W1 }+ Y) ~. O- J! R! q) w
& Q+ M$ h+ e2 j7 m' Z9 U& }" i( ]
在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。0 M" D7 G3 l0 t F
在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。
3 L& d. Z( U9 D/ E$ m* z相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
; o7 s0 \! h6 M6 J5 l, r4 `4 `结论:- }' {* Y$ H) P, R7 P+ s y0 p4 x
即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。/ Q% n2 {& y1 }
0 j# Q6 @' s% N$ X% i& Z, e4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
! S2 ?+ Y5 p& u ~1 d以 LenovoPress 的 8×H100 Config A 为例[28]:( p$ {- m# H8 R
/ A5 C/ a1 Y8 `& ]5 年摊销下,8×H100 本地推理 70B 模型:) T6 F4 z7 y5 B l
小时综合成本(CapEx摊销+Opex):$12.08/h
6 M7 k$ w6 v, h* e+ g4 l吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens7 u8 o: R( g% m
成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
[+ q. A/ Z( c0 U& z% P$ Y- B电费在其中的占比:
' L9 `) p+ N/ A% mOpex 6.37$/h 中电力+冷却约 $0.87/h[28]/ V& _3 }$ \" j
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token7 z% a8 ^& R# c6 t# e% A
电费占 总 token 成本 ~7% 左右。
9 K5 W3 s( w/ ]5 ~若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。; [3 u( W& e u5 @/ d. |; Q$ z# W
若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。0 H: U. K* U3 @) C0 B5 t
5 x2 [2 r* K1 ?! D& j
因此:
$ B. Y# J$ [9 k- ?
' o, w- K l: i, c: t! q. ~! \) k. O在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。
/ ~) z2 X, E5 `! Z. J在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
# Z z6 }1 L# O d: F五、不同芯片方案的建设与运营成本对比
" p3 S4 A( \2 V) f. s1 p5.1 NVIDIA 方案(H100/H200/B200/GB200)& A& a: V3 a; M" ~; ~+ B. b/ L
CAPEX:
7 E2 r, u! k+ w+ ]
5 D) G9 m7 ]* C o% D( |/ AH100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
/ S! Q; W+ E2 A2 s6 A9 vH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
8 j3 I0 j8 g% EB200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。2 ]4 i1 M7 c9 V
GB200 NVL72:
4 @8 z% L9 e7 J, k每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。
8 P0 l. Z9 G( O" [- p% K3 L冷却系统每 rack 额外 $50–56k[35]。
* G l" |4 y( v在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。
' o7 P6 s& }; {/ q( H, ]OPEX & 能效:
& t o0 M, ~, h) {' R3 t. U, b0 ^9 |9 S$ ]$ e6 c
单 GPU 功耗:
( x4 d- X2 E: BH100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。
6 v2 R5 Y8 i% Z$ L9 `H200:功耗类似或稍高,但性能/W 提升[9][10]。
; c4 }+ N2 t& b* C2 |# w! K rB200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
( m8 T9 ?# F0 ]: x* X0 EToken 性能:
+ Z6 D* ^" ]% u9 O: \+ ]3 d* gB200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。( u) `- E# W5 `
NVIDIA 的优势:
2 q' l- g7 \! K+ n/ T
5 I, D r3 p4 Z& r# F软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
* u- a3 B- e( \8 E1 ?! X* g' ~但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。
9 Z9 T, ?7 _. m2 W3 H) x6 C0 L8 C5.2 Google TPU 方案
@8 O6 b( H1 ?! W7 fCAPEX:- W/ N. i- z8 [4 r
0 M6 q! P C1 w' [+ B! L
单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。
- `. l# {3 m* [, l% R; QGSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。1 \! \2 R% \1 D
8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
6 v- \* S9 G. f w* v能效:* V3 q# j; e5 S: n6 \% K0 o
: Y1 R( M+ g8 h" w$ F+ m; pTPU v5e vs H100:1 b5 d3 l: C: Q
同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。. O/ N7 i* F1 L0 `) S: M
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。
+ C& I. }- l) Z, b新一代 Trillium/TPU v7:
4 Q, L( N M: _3 U3 J能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。4 U% I0 |1 W; ^- o* p, K0 k; \
Google 方案的特点:9 K5 p. h9 {) x7 X# o# i0 T
2 i6 q: S0 c5 N! |# O
自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
- O2 o$ M+ W5 Z' D/ K' c) Z# b对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。
+ E* d& o. A( `+ p* ]5 S5.3 华为昇腾 910B / 910C 方案# E2 }2 ^, V) R2 v" x4 s
CAPEX:+ `, T8 \& B; n
" P' M: C" q' S1 {4 E& h
单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。% ?. W2 k& n7 k; y( W
与 A100 对比:
* G0 T9 c: [2 C$ P! @FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。) e, m# E+ U, o- j; G' v
市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。
" P# X' B# A% U0 g使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
0 f% Q3 l6 s' Z. d: G) ~1 `9 ^OPEX & 能效:
0 g X F# n+ d8 @ Q) D* B1 e% h1 u6 b
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
# B9 ~$ K) m* S& o部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
' R# h: U/ z( N在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。- @4 Z1 g$ m, J" d7 ?) {; Y8 D
5.4 平头哥真武 810E(PPU)方案
7 Q# I3 l& t7 m( m9 h N- tCAPEX:5 _0 F+ A& g% t) v7 |% u1 P
' b% E1 e+ r, L1 K
技术参数:
! _8 l: x5 S8 A0 i96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
$ _/ [$ n' w+ H1 C3 |! L" Y性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。' r9 ?2 g. Z: }8 i0 ]( g3 z
价格:
/ n2 F$ W' j! _$ B" B未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。
/ r' @7 a* H) {, g/ l; S结合国内报道:
8 M, M" ?: I' J3 M2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。
. W, L6 c) h7 Y+ x. x. B* j4 e2 Q数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。
6 r1 M/ C/ x! q* e+ ]( FOPEX & 能效:* u6 J& x# S% }0 k. G r
/ a& @4 w/ d' n( z; u5 I% t( _# w
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
$ B" }& X& x- t在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。& q( S" S4 _, D
六、综合比较与策略建议
, ]/ w# T" q" y. r1 l& N2 \ k6.1 区域维度:在哪里建 AI 数据中心?. a+ y0 ]2 @: P8 R
纯经济性(TCO/tokens)排序(假设无政策/合规约束):% w5 K# M+ U1 q' u+ g/ P) a
- x% _7 r! r3 N/ w中国西部/北部(电价低、人力低、建设成本低)
8 C9 _! w2 C- ~. t中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)+ Y3 O' m$ A+ P+ L( X
美国电价低但人工高;东海岸/加州电价上涨压力大) K/ W7 Y+ T) x y5 O. g6 d' I3 z- v
欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求
- w4 d8 m G" [9 ~2 ^# t1 E, D若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
# v" t# S& l7 y" T4 e( a' g+ e9 L# ~: i5 R: e r% _
纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;6 ~7 O4 J- {8 O, U9 d$ _
对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;* N2 c" n7 \0 o; Z5 V- d! f# T
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。 q0 }* S9 B. m6 D( Q
6.2 技术栈维度:选哪家芯片/云栈?
$ T3 Z8 l+ e: d5 Z若目标是全球最优 tokens/$ 且不受出口管制:# _( F; b" e" H. R
! H8 |: I3 @0 o7 q" h, U7 oGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。3 _# T& Y {; p$ m
若在美国/欧洲,能自由采购 NVIDIA:/ X0 {# i* x: P9 A
" h1 d3 S0 P) I3 R
短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
$ z( f3 s* i0 G& J2 ?成熟的软件栈与生态,极高的 tokens/s/GPU;! r( i" M( `1 _6 P) Y
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
" ?9 Y; y( K8 F9 k但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。
# D/ S: O( `6 q若在中国或存在出口管制约束:7 N- a7 W+ ~" }( r2 `9 p
+ p+ ^( s: J1 c D7 q8 N' q* L! N
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:
, r; B: t9 V# m' }0 `性能上已能覆盖大部分 GPT‑4 类推理需求;
; W4 Y! q1 k9 H1 w单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;( q6 `: A, S& K( z
软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
3 l5 b7 x1 I: n6 {8 D7 ]9 j8 @- R建议配合:& a' V; p' J/ [3 U1 f& b
高效液冷(PUE~1.1)、
$ M i9 @5 z( ?/ b% K大 batch、路由(浅层任务走小模型/低成本芯片)、* W/ w7 P, h0 A8 t" Z5 d* Y) }( g. D
强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
9 _; y; _2 K2 O# x( n! L长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:
% l: I* b' O4 p# D2 O, ~4 b; h- {' x* W' \, Y
数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];
- P6 {0 j* |( z7 S7 K- y这意味着:
- z* Z& Z7 ?( E' L$ Q: D7 P优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);7 l. O0 P: v6 `& W) x1 z/ E& o, {
精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。: s6 N- I- _0 h3 H3 }5 Z5 u6 o
6.3 针对你关心的具体问题的简要回答2 C( B$ D7 \: h c9 S' r; H& p% l
AI 数据中心建设 vs 运营成本的大体比例?( B- U6 L1 m& z% b
6 M* w- \1 o2 q l# b- @! b. ~
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。
) c: J# ~* ]7 V其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
; L2 K8 M2 U+ G1 m4 m9 i* b+ z中国、美国、欧洲、中东的成本结构区别?5 P% M# m/ J+ H( T
" f3 l0 T; {+ V# R! c8 q建设期:5 z# h* `( t7 X. F0 J4 h% d: E
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。
+ m" r$ U& Y' z运营期:$ v( K; T) @/ L- a
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲* y0 n) `: P# \( ~8 X
人工:中 国 ≪ 美 欧,中东居中。
! W( o" |# ~. l: k9 P在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?
$ z9 J0 A% P3 |0 u2 o) K0 t2 f* ~, x! `( B& P5 u8 ^
对于典型 1 J/token 推理负载:2 h6 _* G" G6 @% f
美国 $0.30/kWh:电费约 $0.083/M token7 K4 G3 P C# u9 C) w; B9 }
中国 0.3 元/kWh:电费约 $0.012/M token
; `" L- S3 M1 j9 g6 Y7 S5 J对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。
3 p: A3 j% @ S0 M) O不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?
7 u: {( C# _, f" d" `. |
- T2 R6 w" x1 S3 M/ P; x! m/ f2 u& t在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
5 M# i7 N2 \) i/ j全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
9 v7 L9 A" T7 j" x中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|