TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:+ k* O1 R9 C* u( b* x9 ]% T
) u- K5 B0 I. Q" M3 o* H5 u
一、总体分析框架与核心结论* x8 b( ]9 u# i8 P* l
1.1 分析框架概览
: o) k# t' h; ]' ^/ y3 P3 c拆分维度
( h$ Q; W- C% S; c* j# Z# g
3 ^ e6 l: u8 T) y7 b' b阶段:& ?# P+ P, G7 p3 ]
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施
B( Z+ d1 N- I/ a8 l4 U运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等! r% j$ ?8 I4 H6 t, V
区域:
# b5 f/ E s t; W中国、美国、欧洲、中东(以海湾地区/UAE 为代表)8 J& B- A" y$ h* q
技术方案:
1 h1 |+ |: M, C) S* i0 b% cNVIDIA(H100 / H200 / B200 / GB200 NVL72 等)$ q& n1 O4 F! I3 f
Google TPU(v5e/v5p/Trillium 等)
5 R" j0 R1 s" `3 ?2 v% A. E中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
4 \, p* K+ C. X1 y" h算例基准 k4 ~7 V6 [) U: W
% G: m" T8 P+ B: |以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:- _, j/ q* y# J
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
" J% d: _3 L& A. o2 F7 DPUE 假设约 1.11(高效液冷场景)[1][29]
8 t6 B1 F, R7 l* G0 U3 ~2 p G时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]
+ |! H0 m5 U. K V) O7 J( ?/ e+ X关键指标7 S( H8 r A9 H' @
c( E! o! {6 N$/MW 建设成本(含/不含 IT 硬件)
S+ B+ h( R3 X! ?/ f( ?$/kWh 电力成本、L/kWh 水耗, _( c5 h0 \1 E+ G) z
$/token 或 $/百万 token 的综合成本2 o. @# q0 o% o& p! ]: \& N
Token-per-watt / Joule-per-token 作为能效基准[17][18][26]
# [, i5 N3 [3 A/ N8 d项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租)
; e1 G/ }- d7 @" x% k1 |4 n7 ^1.2 高层结论(供决策快速参考)
+ {# v, v8 j" j! U J2 Z建设成本:AI 数据中心相对传统云数据中心成本翻倍
6 K; {- a+ k( i% Q6 Q" m6 b+ {. i
9 W2 L1 h2 W' M1 P) k传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。- {' [9 A1 o. u0 D+ v* r, H
AI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。
: \' b- ^: {, ~7 S8 W6 C按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。
3 O7 }6 ?" [ `. a区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区5 V3 K1 H# K% t* s2 f
: t0 e7 Z$ L" G中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]$ D& O: z. l- d5 ?
美国:$8–12M/MW,400 MW 约 $4.0B[1]
+ E" E1 O1 `& J' S' L欧洲:接近全球平均 $10.7–11.3M/MW[2][41]5 Q4 s4 M8 o2 J3 d# R
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]
* L0 e- k' \2 a% K# ^3 c结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。) U- j$ V% {* i/ b. ` Q
OPEX:电价与人工决定区域优势0 Y( J( Q% v: }; d* R$ i0 v w* d* O6 Y8 ?
" |+ [3 y/ ~8 R7 g$ z4 I$ p1 H! P3 t2 y" _电价(2025–2026 工商业大致区间):) u4 B7 t t8 i( P; K4 K2 T
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73]% I% e" O( p+ Y
美国:工业用电约 $0.085–0.09/kWh[44]
) \3 i8 V! H) Q: P' [6 ]8 N# L+ ]欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]
9 T, _. J+ d7 k中东/UAE:工业用户 $0.07–0.13/kWh[47]5 A c/ b! \) U" u! F8 H$ m; ?
人工:
+ E& p0 |& }- h! X% |' \" I8 C中国数据中心运维:约 $22k/人/年
8 N. q1 K1 j) Q7 P0 j9 K* [5 r美国数据中心运维:约 $120k/人/年[1]5 ~1 v9 Z/ X: ~" Q
结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。# a' K; N+ r8 `( U9 s- q4 V8 H& f/ D
能耗与每 token 能源成本:能效差异远大于电价差异
- E e) G: [6 O4 m; ]
0 i$ [; M! F8 \2 FIEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。- i3 D9 \7 D1 _0 i
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。
, f# Q4 x7 M& ~. N, j8 @将 token 能耗约化为统一口径:
5 ~5 t L4 ^5 @: j9 k; j, W粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:
' _' d0 ~; y2 ?9 j& i. {/ g* S中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token; T' J: U% q$ g) O+ a+ U
美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
& ^# O# w7 e- E7 H$ t' O- J; l: S对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。
6 Z: Y8 b& D- [& H不同芯片方案的核心差异' |: B" C# r; U; Y
( Q- x+ e& h, |9 R; ?0 I& l5 z }: G& [
NVIDIA Blackwell/B200 & GB200 NVL72:
9 f& y# Z5 h- D0 I7 m. o单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。
5 Z! j" P5 |# G$ n) sGB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。
$ F- J) }. _9 i; ~$ H5 HGoogle TPU v5e/v5p/Trillium:8 E& l2 q' f* b. P
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。5 G5 Z" [5 H, `8 ^0 F: ~; ?
Google 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。
5 X3 w$ h" \3 a. `6 {3 Z华为昇腾 910B:6 r, o0 O" n- n0 P3 ]& H
FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。
! A4 T Z8 ?. z: i2 N4 o( x- r单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。
' Z* ^; {% A" v \: J阿里平头哥真武 810E(Zhenwu PPU):
# Z# A& N, g& j+ x96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
# t1 O+ |. {, _" W( h: F- J2 u结论:4 H. x5 J) x! N: B! V# B. x
能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。$ z) |& W; z: g+ f
单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
: i6 i* K1 H' T$ E3 Z7 W* M0 q对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。 ?0 Z, _$ n3 @7 O
自建 vs 云租的 TCO 与 token 成本
# i0 r; y9 o, v. j- V- h
1 x# |, \. K+ U; u- o- e! eLenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:/ p, O2 m% p3 C8 d
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;
! J e. p4 j- G" p等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。# |, Q9 v% B- F5 D$ U0 S
8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
& ?; h9 R' I7 G0 y: P8 M& z. Z/ DToken 成本对比示例(LenovoPress 场景)[28]:0 Y4 |1 B D! L) s5 S4 Q, c/ \
Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token6 X. H+ @- K+ ~" J! B0 E
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。
* S a8 e: Z5 V4 _" k4 L5 n同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。
* h% K4 A- u9 k" }) @# MLlama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。
1 a" q$ ?9 G I* x7 {6 f6 c结论:
" b. }9 a- P( r+ p- g高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
/ c: U& n/ b% E! A6 y; bToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。
8 K& I' ~: S" R二、建设期成本分布:区域对比
1 I7 o' a4 x5 D以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
2 j, ]' H8 y4 t0 G& h3 p
) W7 p( }! ~( h; h, N2.1 全球/通用结构(以 1 MW 为单位)& P: g: f: _2 ^; M- n
综合 JLL、ConstructElements 等[2][41][40]:3 I" U/ [; ~+ y: r
) I: |: H) J" a: J5 I, i% c壳体+机电(Shell & Core)1 Z0 ?' L5 W: M! R2 E6 w
/ T/ N' J0 O0 ~* c全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]# r, G8 P* p3 n! G
其中按成本构成[40]:
% C6 @) F& f+ o4 Z0 e9 p电力系统(变电、配电、UPS、母线等):40–50% ^1 ~& P; z1 Q8 r, a" F
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%9 {5 T: W/ q: ?! c2 a6 c( v
建筑与土地、结构:约 15–20%4 ?6 b/ y! b/ A& m9 j# C
其他(消防、安防、楼宇管理等):约 10–15%
2 P( a0 U8 [2 X. f% P1 P% aIT 内装与 AI 基础设施(不含芯片)4 e* }; g/ \, F g
4 N$ E) [% u; E0 h高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。
& z3 q: H7 C. j, {% oGPU/加速卡硬件 CAPEX
* ` N4 m' J" z0 N' k) w0 e. R/ J0 Y4 a: f5 ?0 y: `1 |: a" ~
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。) X J. Y4 H/ n4 Y! S" f
2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX
, h+ J* M3 M# A' ^ y- P8 n结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):2 [$ v* X9 }0 } ~# x6 t9 S5 B
6 c) O( p6 w& U# E% ?区域 典型建设成本(壳体+机电,$M/MW) 备注
) O \* u/ ~: H0 B7 G中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]
2 O; E0 V1 p+ L T! P美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]
' J5 l1 r; C8 k欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
* K% e3 I8 y4 T7 @6 Z中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
}2 T6 A* q! N3 {/ `结论:3 c9 c: p$ d9 c( C: [
5 O7 H5 u$ m+ @, j2 s- c
单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
7 ~* H. \& |" j0 [: s H8 G# m若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。/ g* f' j1 d8 x7 b
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)3 B0 Y7 }; a8 u7 c1 }8 N
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:
& R$ c6 R; L, I* g1 F
7 q/ `' K; Q6 N- v假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;
# a1 i4 k0 b! @' GGPU 配置:
) b% M' r! x8 M1 b" A0 t8 p7 d$ F有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);
& T/ ?0 f" }4 i; P每 rack 成本 ≈ $3.0–3.35M[34][69];
3 p! J+ J* A: s7 `GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。
4 z9 F* y8 D6 S# y7 F/ f与不同区域壳体+机电组合:" |8 Y$ I" a2 y M/ K1 g4 {
I9 X8 X8 C6 \8 c! g5 Y- C6 B& s
以中值估算:' y8 Y1 n" M3 k/ [5 b1 X! ~) x' f2 p
2 }! t) J: `) q
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B" z- e9 \( E* H4 b- i% w4 F5 y+ y
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B8 y% M! Z g' C6 }8 u$ j. J, Z
欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B
" E! D+ M. g, z5 M( ]中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B
4 N$ z' J( ?3 b8 n c( n可见:7 ?2 h8 h% l5 K0 x
2 M5 l! g5 [8 H3 V9 E' ?GPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。9 s/ U7 M$ d6 C. `% E
相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。5 {9 s4 ~( Z# O6 B
三、运营期成本结构与区域对比
! J* z6 m* Y W) N8 X( l3.1 通用 OPEX 结构(高密 AI DC)
: R$ T; U% F7 O: I, r结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:; A- A3 @% E7 e7 g7 o: {- u
7 H3 o8 N3 T, a2 s7 N; R5 r7 \
电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。; j" q( F3 v9 q* t ^( _
冷却与水资源:
. C) M/ R7 {8 Z( J Q7 h. Z+ D# A$ D# D能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。
% x7 L% `- T( ^5 O4 O水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
6 p/ C" [$ _" e* ]. }人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。
1 h+ Q7 |+ o% d8 S3 Q$ i8 P托管/物业与维护:
" q) A; M& X; h4 [托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];. h9 Z2 K3 l6 S4 j/ q" N7 k$ \
硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
[5 D8 m' Y3 F u9 a" V' o! Z5 }3.2 区域差异(以 400MW / 3 年期为例)
( s3 X' ` p( L- l8 O使用 ChinaTalk 的电费与人工估算[1]:
]& ^" ^; h0 ~: B i- E! R$ f: m; [) I7 [. y Q
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
' }% F% g0 @$ x0 @; D1 |中国:约 $0.06/kWh → 3 年电费 ≈ $350M
8 T0 B# {5 V& a* o" |: z6 `. c美国:约 $0.09/kWh → 3 年电费 ≈ $600M. W) M& ^) B1 S. Z+ Z* E
中东:约 $0.07–0.10/kWh → $400–550M
7 D+ ~" ]9 k) w% m! O( J欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)
$ Y0 A6 N& c3 y水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:2 _/ q# O. k n3 b0 R9 v7 n
美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]. D1 Q, k. g0 @% I
三年水费级别:
$ }& J2 y7 _1 b, n" Z3 |' |& p美国:$40k+9 z+ P/ u1 Q1 c' t1 U, l
中国:$20k+2 z$ z% v- F4 ~9 Y6 S
结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。
* v- S( g- h2 T/ _* L+ z+ ~3 K人员成本(3 年) – 假设 500 名全职运维:# P2 o; ~! E; q, ?
美国:500 × $120k × 3 = $180M+
/ k% d6 f& J. u% q9 K y# d中国:500 × $22k × 3 = $33M+
7 I& Z# H T/ w* @7 k差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。
0 C, [/ r/ S# p8 ^/ M$ T- Y3 ]整体 OPEX 粗算(3 年) – 400MW 场景下:" W/ n! Y0 ~- O) ]: o5 M; A
! n0 o, X. ^( N7 E/ Z项目 中国 美国9 Z4 N9 h- b. M' w6 ]7 g
电费 $350M $600M) \4 ^/ p* [* R, P0 T1 U
水费 <$0.05M <$0.05M4 ^' X( o% M" W/ q/ J! ~
人员 $33M $184M
7 ~/ o! c* t& ~ v# u' K& |+ ?/ u其他维护/托管 同比例估算,地区差异主要体现在人工与地价 + q9 V! ?" m1 N3 v
结论:: ~1 f5 q! F: X/ H
1 `' d8 d7 }( u) b+ C
就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。* O# W- ?, o9 R. R$ r1 i- }2 x
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
. X' W9 s. {, O' j- Q四、基于 token 的成本与利润推演6 S$ X% d. d7 H) ^3 m
4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)
. X* {3 U& a% Z# o统一假设:
( \: g6 s* h5 v2 D$ ]+ n
/ t7 @" Z7 C- l# a% W$ A8 b典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18])6 ]+ p! X) O6 U5 b5 s t" q/ J
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh
* T' N4 M1 m: O) W2 d4 j1 百万 token:278 Wh = 0.278 kWh8 H( T: f6 O/ L/ g+ q" C8 ^9 r
场景 A:美国电价 $0.30/kWh
) Z1 Z d! [& z* s7 {: | V8 P电费/百万 token = 0.278 kWh × $0.30/kWh& o: B7 R2 n7 p( w: k: y3 x: x: x
≈ $0.0834 / 百万 token
2 s/ J6 E, U: O" \% W场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh! d5 \. ^% U1 D: x1 n
电费/百万 token = 0.278 kWh × $0.042
! A1 u$ `- p8 B7 M0 D$ u7 Q' D1 N≈ $0.0117 / 百万 token& g* X1 k0 i1 {) h: x; F {
对比当前 API 价格(OpenAI 2026Q1)[62] B3 _6 ~: d) d5 E. C6 ~" B0 s5 `
以输出侧为主(成本最敏感):
# b" U) h+ K2 H! j- V7 g: n
# a1 R0 x3 E% j0 e模型 输出价 ($/百万 token)% _, a; K( C, A6 `# I! S4 L
GPT‑5.2 $14
2 `/ t v4 D# V- w8 Y( y0 ~5 s& ^) VGPT‑5.2 Pro $168
& e+ |+ `" z5 {& B4 m/ N# c& OGPT‑4.1 $87 N4 s' x% [4 N* Y
GPT‑4o $10
# y/ `- Y7 A( P% W5 [GPT‑4o mini $0.60 s! d+ M3 d$ X) G9 x* F
则:: O: L& i) z* j- [7 T2 {
) J. I( ]2 W* [% Y% u$ E' v" }
在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。
0 j, j% _6 d* c在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。
7 l! _7 v P2 i" x7 D相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
' e/ B3 T7 `3 ^; Z结论:
0 H1 S9 Q+ R$ }9 \: C& f3 L即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。
6 [9 z3 `! o# K$ p
7 l6 B' @% N, i/ K+ Z; a$ u4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)6 u: E# a8 m8 |
以 LenovoPress 的 8×H100 Config A 为例[28]:+ A8 t0 ]2 q" a5 H4 \3 `6 i' J, E
. _% ]+ @" Z& C
5 年摊销下,8×H100 本地推理 70B 模型:
4 m5 h% j |4 |, d小时综合成本(CapEx摊销+Opex):$12.08/h8 r: M7 O. B# k9 j
吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens" w: C2 ]2 i. @: J
成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
& a7 g' n$ e7 O F9 o, X) W# }, Y电费在其中的占比:
, Q( h6 w0 q4 K: `& UOpex 6.37$/h 中电力+冷却约 $0.87/h[28]3 Z: E3 p" |6 {# d
电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token
4 E% L) J7 k& g& M电费占 总 token 成本 ~7% 左右。
0 z5 N& S2 p9 a3 c3 l1 g若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。/ U' e* {8 T" I# w
若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。: `$ b& c# z& {* P& P. L9 G3 Z
* R: D6 ]6 R" i4 ]3 T7 i
因此:9 o6 a- n6 x! M- h" g9 \
: G6 O* W5 n: h# D: s; j
在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。& u4 e$ X# |0 T+ I+ w& ?
在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。
8 o+ k8 p" j2 h# @' I五、不同芯片方案的建设与运营成本对比
/ k5 K7 N& ?$ ]2 N5.1 NVIDIA 方案(H100/H200/B200/GB200)
% N7 Y- `6 K- P* {CAPEX:
/ d( Y4 }- h+ U5 ?( k6 q/ j5 b# L& Q' R4 ^
H100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
$ _) }: |. ~) D5 X9 JH200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
; y. g+ i) P4 ^# Z% R4 s. fB200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。
0 i8 i0 E# j, H" ~GB200 NVL72:
# a0 }% g% {+ M; I+ \每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。& R, j" S! c a/ z4 }3 y
冷却系统每 rack 额外 $50–56k[35]。; @6 K2 o# \' c6 F8 E
在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。7 Y$ B0 f0 E" c+ r, n9 _
OPEX & 能效:- R6 A+ S* u: O4 ]0 B
; c3 e4 d _( ^- s; G
单 GPU 功耗:
0 V9 m2 J! m/ W6 Y& a7 n0 aH100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。
( ]6 g+ O9 s: fH200:功耗类似或稍高,但性能/W 提升[9][10]。
: y5 u6 ~; t# o* L! |' e! LB200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
) G' h- {7 `9 W% q# f sToken 性能:/ h4 j: y: S* ?5 X! \
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
7 _, C9 N" ]4 L( e% pNVIDIA 的优势:) q* M, B2 I- p' g8 J2 v; r/ K: i% S; o
]' p1 \* K7 O软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
9 @. I1 W8 t5 k8 d/ g Z但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。) q+ ? q; q+ K; G$ z- Y3 {! E( g
5.2 Google TPU 方案( c/ Z1 R& T# z9 I4 h! z/ V" V( V8 j
CAPEX:
: b0 Z% v7 {/ B7 M) o& f) F I1 G S# j6 f2 ^; E) i$ J+ z
单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。: ~/ d" U# L8 n: g! s9 L9 [! p
GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。4 l% ?0 F+ F, \+ P! i( m* u' r4 B
8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。3 N# I* g; w8 X3 Z; n5 `
能效:
% b9 b3 p% J/ X& @% ~
# Y8 d }. M+ D# a1 f- T# STPU v5e vs H100:
1 X0 Z3 G, \0 j! K* F同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。/ T/ w# @: b( h
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。' M5 V2 u [+ m9 T4 ~
新一代 Trillium/TPU v7:5 h, j& J* P6 q
能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。
: B5 g5 G6 Z/ m( }- \5 }2 EGoogle 方案的特点: m% q1 M" b$ C: V* Y4 b
1 w/ c4 t7 J% N3 N8 u
自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;
7 x" r" H! U8 f4 x' G, ]对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。/ Z# \3 f6 a" A/ r: h0 c2 _
5.3 华为昇腾 910B / 910C 方案
! t- O0 D5 z% v) ~# _CAPEX:& @% _$ X6 L! s* \
2 ^3 x" R% J( I! h单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。! z' i! Y _. y# i( P( ? o6 l
与 A100 对比:
' D. |6 I. B. {FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。' A4 `9 J4 x7 C" i& Y1 c
市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。( m6 O$ y7 @) h0 K! F$ }' B
使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
/ ]! f7 _/ C4 }" l( A1 MOPEX & 能效:, @5 \5 I K( R1 _
* H( [: C. D1 D2 Y8 M3 R2 ~' n
910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。
- g2 ~2 w4 I2 c部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
# @0 n u7 O, r6 B! [* k9 A3 @4 Z在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。! Y/ o( i8 O% O/ B) A
5.4 平头哥真武 810E(PPU)方案
6 ^& T# z. y) U d- m G4 s2 ]CAPEX:
1 S. d7 a3 n; y% c. {- c3 K9 G s$ J" j; H8 G* [
技术参数:
2 w: X8 g2 T1 g96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。9 V8 Y. `" j2 i/ y; B( o& H- K
性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
4 z' K U( P$ _7 B价格:
" l) T$ d. d7 W未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。
$ c+ ]7 r, e# t: M# q& T8 R结合国内报道:
5 b d y M1 s A3 T. d4 {2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。6 X5 t' H4 S5 Y3 x
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。
; W& l( ^% b: T8 Q" A! k( QOPEX & 能效:. b `$ [1 p$ j& N0 f! g; G
$ J( y c$ x' ^: B B
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;
8 \$ ?! R' [' \( ]; y k/ v在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。& T. W8 s0 N: V% s* Q
六、综合比较与策略建议/ `2 ?, C8 W2 Y4 y1 ]
6.1 区域维度:在哪里建 AI 数据中心?9 U: W# {: y O- x3 o: H7 E
纯经济性(TCO/tokens)排序(假设无政策/合规约束):$ G3 L/ n# N' _; S
6 \% [7 B* {8 E& J+ C8 n& v6 Y
中国西部/北部(电价低、人力低、建设成本低)
9 V* Y% K/ U& v* e中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)
, P, d" p8 ~: t美国电价低但人工高;东海岸/加州电价上涨压力大
W5 E4 }8 Z1 P7 l" R欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求" m& Q; ~1 ?, T3 \* I! |
若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
U2 A' M! z% b% i
+ \* H3 _) f6 m纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;
% T6 Q- m6 [% U" `8 }+ F) Y对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;
$ t5 E- D1 `* R+ M但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。
7 n4 f- [' c7 j. `6.2 技术栈维度:选哪家芯片/云栈?2 }$ N6 Q N: z g
若目标是全球最优 tokens/$ 且不受出口管制:6 Q) P2 @, }* P" e0 r
+ ]: ^5 z+ a8 c6 {3 FGoogle TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
- L( R# ^1 D4 X# t, i k* D若在美国/欧洲,能自由采购 NVIDIA:
6 ?' d7 B6 V( f6 k
* z: l/ t4 ^4 z% x短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:, l1 J. z, P3 ` P- P/ }6 w2 P
成熟的软件栈与生态,极高的 tokens/s/GPU;& `1 X9 L: D' r; q- \' a
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
' o! U7 ^0 ?$ O" D$ g但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。4 b" F: p; u/ g9 p+ q/ A# j- R
若在中国或存在出口管制约束:
" D2 ~$ L' G- u+ e
V7 y5 U8 a7 a) M昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:
$ [ e F3 D' ^' @" m- _: I- u3 a性能上已能覆盖大部分 GPT‑4 类推理需求;
7 l* t- r: K! q5 F单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;
. e( ^" l B# R, R! L3 G. H软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
& M& I! F' x# Z; d4 X! c5 t( j7 s建议配合:, C1 X8 l8 s- h7 }& P- g" O
高效液冷(PUE~1.1)、1 g+ U d: E3 g
大 batch、路由(浅层任务走小模型/低成本芯片)、
. r; i$ ^0 z* N7 ]5 V强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。
" f" O8 R7 u2 s% ~. U& k) B长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:4 Q; H" x& K/ K4 b! |' [
6 E5 C6 C8 M! V, E& L数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];% M& j$ `* n9 B& Z6 M' `$ m
这意味着:
4 k4 e# P0 s, @! J0 k) x- @; `优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);0 }% a: W+ { d. q0 _) `
精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。
8 p, J* K/ z" @5 H/ S6.3 针对你关心的具体问题的简要回答
6 h P w' Y- f' J: t' o, o- ^AI 数据中心建设 vs 运营成本的大体比例?* I. E0 ?$ h* V3 ]6 s+ ~5 G
9 y9 c* y* O6 ~7 V5 w% A: w
在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。/ w; `. }, Z6 v7 u1 w. [
其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。* K% r5 q W- S
中国、美国、欧洲、中东的成本结构区别?
3 Z$ L. q, I% f% Y* `$ q j; E! i: U
建设期:2 } d2 P/ J, v1 y c
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。
" V6 l; ?- ? ]) Y. Q运营期:# R1 T5 o+ D9 R- _! q
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
9 N( F4 m, ]5 b+ k人工:中 国 ≪ 美 欧,中东居中。
+ I. ^" z4 k+ s在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?
' y0 }) Q0 N0 y; V: |2 A, q3 A: j4 u+ B$ G
对于典型 1 J/token 推理负载:$ S( z0 S3 z* e, E0 }2 ]9 ^
美国 $0.30/kWh:电费约 $0.083/M token6 x( u/ }$ [) R _, T, a+ q8 M
中国 0.3 元/kWh:电费约 $0.012/M token# g$ Z1 Z7 T/ u7 s
对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。& |0 S3 r4 z! y3 r, G* B
不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?+ ?; a2 K5 T) f+ W d
$ ?# m' R3 U! U0 v
在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
2 J( C, V/ i& f$ R2 p/ }$ I- X全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
: Z U5 Q) T& [( `中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|