TA的每日心情 | 擦汗 2026-3-17 22:01 |
|---|
签到天数: 1133 天 [LV.10]大乘
|
沙发

楼主 |
发表于 2026-2-26 21:43:21
|
只看该作者
后来想了想,我让龙虾爬了一个分析全球AI数据中心建设和运营成本的报告,内容如下:" h* d- q8 u5 a% U- D
/ o9 L- p! H0 d
一、总体分析框架与核心结论
# G+ n% A/ Z/ e2 t1.1 分析框架概览
% W- ]' p9 j" C' A/ D/ P# J0 k拆分维度
V' B/ P* C8 L' m3 X, z5 b
7 D- f: q- R) ]% A4 M# P阶段:# W: k2 p* n7 R& D/ {$ u& k7 ^5 {
建设期(CAPEX):土地/建筑、供电与配电、制冷、IT 硬件(GPU/TPU/加速卡)、网络与其他基础设施' J' _! F# {$ w; N. D
运营期(OPEX):电力、水、运维人员、场地/托管、维护与更新、网络带宽等" c- l* N4 H6 ]) o0 h# i6 o
区域:
8 y6 P& t! x* X1 O中国、美国、欧洲、中东(以海湾地区/UAE 为代表)
( b$ p4 s( V. J- }# R技术方案:
2 k5 f$ P$ `$ w# a0 }NVIDIA(H100 / H200 / B200 / GB200 NVL72 等); p6 C" u( h6 J* f" U" P9 j
Google TPU(v5e/v5p/Trillium 等)
1 {, ?* x- B! n$ H C) {中国芯片:华为昇腾 910B / 910C 系列、阿里平头哥真武 810E(PPU)
; n0 ?2 }: s) e w7 R: R$ V* o1 j算例基准. R) S d* t9 |2 i8 f1 F
' i. i% D& I& k3 y: p以400 MW 级 AI 数据中心为统一标尺(与 ChinaTalk BOTEC 分析保持一致)[1]:2 ^4 Q" n. Y# v( O
其中 IT 有效功率约 360 MW:GPU/AI 加速约 312 MW,CPU/存储约 48 MW
7 q3 ~* c9 g9 B* {' EPUE 假设约 1.11(高效液冷场景)[1][29]2 ?* d! A$ |6 w7 L& h8 I$ U
时间窗口:3–5 年运营期(与行业 TCO 分析和硬件折旧相匹配)[28]
3 K& |% N4 w3 r! ?关键指标4 ^0 s0 L4 I; Y
& @% G1 A% |7 [$/MW 建设成本(含/不含 IT 硬件)
1 Z' V& V+ X) s1 _9 f) |6 F! Z. t1 W7 o$/kWh 电力成本、L/kWh 水耗
; Z8 G! Q. q/ W4 }" T( Z; O$/token 或 $/百万 token 的综合成本
: m' m$ T7 M% ~" [Token-per-watt / Joule-per-token 作为能效基准[17][18][26]
# ^5 c* m; ~; D' S项目 IRR/回收期、吨位级 TCO 对比(自建 vs. 云租), [, [9 n- M2 S" Z
1.2 高层结论(供决策快速参考)$ l$ `' D$ }5 o/ g- d e, [5 d
建设成本:AI 数据中心相对传统云数据中心成本翻倍" e( W( m0 c$ e
8 o+ d: W0 p# w2 h4 ^传统云数据中心壳体+机电平均约 $10.7M/MW (2025),预计 2026 升至约 $11.3M/MW[2][41]。
$ V4 ]9 b( h2 i4 n! K+ `" dAI 优化数据中心(高功率密度 + 液冷)壳体+机电可高达 $20M/MW 甚至更高[41]。7 @$ c! s. T, }4 O
按 Accenture/Soben 研究,传统云 DC 为 $8–10M/MW,而 GW 级 AI 数据中心可达 $17M/MW(仅壳体+机电,不含 GPU)[3]。" J' r. p4 r4 W' } Y- \3 q
区域 CAPEX:中东≈中国 < 美国≈欧洲 < 高端 AI 园区2 D4 b1 T7 i+ _5 p8 G: T" S
$ E4 o5 R3 O# I/ Z$ A) r ?中国:$5.5–6.5M/MW,400 MW 约 $2.4B[1][13]
+ b0 A& y' d; L% K" ]) k8 e美国:$8–12M/MW,400 MW 约 $4.0B[1]# O d: o$ c) P6 `8 x* C9 j
欧洲:接近全球平均 $10.7–11.3M/MW[2][41]8 t! z2 l. o7 A; W3 i, p" t# n
中东(UAE Stargate 5 GW):总投资超 $30B,约 ≥$6M/MW[20]; _( {- C/ [# I7 M
结论:中国与中东的壳体+机电 CAPEX 明显低于美国/欧洲,同等规模下节省约 30–40% 构筑成本。
( y0 I$ d. R) s/ h# [, D) xOPEX:电价与人工决定区域优势5 Y! J ^+ p$ o. v: T3 D, g
1 Y7 g d& v5 {. v% r电价(2025–2026 工商业大致区间):, ^; I6 j- \6 I+ ?" U" c; v
中国:约 0.8–1.1 元/kWh ≈ $0.08–0.11/kWh,部分算力基地可通过长协拿到 ≈3 美分/kWh[12][73] i( ^4 P q5 O- f- u3 O
美国:工业用电约 $0.085–0.09/kWh[44]
& v- b Q( Z3 r% h$ a欧洲:非居民平均 €0.19/kWh ≈ $0.20+/kWh[45]* Y9 i! u0 d6 y+ p2 c
中东/UAE:工业用户 $0.07–0.13/kWh[47]+ M1 }, W# I. a1 e4 \( G9 H8 S
人工:
9 ^! n8 |: } ?4 ]: w# b中国数据中心运维:约 $22k/人/年
$ ^1 R- H' [! N- {6 v美国数据中心运维:约 $120k/人/年[1]" s E' i* `. v) {9 m) {% o4 d
结论:电价上中国西部/北部与中东有显著优势,人工成本上中国远低于美欧。
2 j8 w8 K, F% p2 N7 H能耗与每 token 能源成本:能效差异远大于电价差异) x2 J! Z1 D2 {7 U, v
' m. M0 V I5 [" T' T* W8 O
IEA:2022 全球 DC+AI+加密耗电 460TWh,2026 可能至 620–1050TWh[86][90];AI 专用服务器约 90TWh 量级[30][90]。+ K8 ^, R* p0 G; m
大规模 LLM 推理能耗估算:H100 集群训练 GPT-3 175B 约 2.46–3.63 J/token(训练)[10][16];经推理优化后,Inference 端典型可做到 0.4–1.0 J/token 级别[17][26]。8 f' U) d& v+ |" |* M
将 token 能耗约化为统一口径:
! |& y7 C% K# Z$ f% W- H粗略取 1 J/token = 2.78×10⁻⁴ Wh/token。若电价为:
- B& D9 P1 S3 M) ~$ R! z6 ^1 d中国 0.3 元/kWh ≈ $0.042/kWh:电费 ≈ 1.17×10⁻⁸ $/token ≈ $0.0117/百万 token
* C1 }( _& q9 n% n" y/ w: h# g美国 $0.30/kWh(题设):电费 ≈ 8.34×10⁻⁸ $/token ≈ $0.0834/百万 token
s: b" P3 z+ b" l对比:OpenAI GPT‑4.1 / GPT‑5.2 系列对外 API 输出侧价格 $8–168/百万 token[62],电费占比 远低于 1%,真正决定成本差异的是硬件 TCO 和利用率,而非电价本身。- u) I D4 K: z
不同芯片方案的核心差异
1 z t8 z# C' k) z$ R) O. ~4 w d$ Q7 g8 t M3 i y. r
NVIDIA Blackwell/B200 & GB200 NVL72:" ^/ X- \8 H/ Y) ^4 r
单 B200 GPU 峰值 ~4.5 PFLOPS FP4/FP8,功耗 600–1000W[68][69]。# \6 q! @- i- s: _ N/ {, w' U/ c
GB200 NVL72 整机架售价约 $3.0–3.35M,72 GPU[34][69],GPU 约占整个 AI 数据中心总 CAPEX 的 39% 左右[36]。; P/ }3 I/ A7 e0 ~
Google TPU v5e/v5p/Trillium:: m" t0 a- @3 S% R H
TPU v5e 8 芯推理:约 2,175 tokens/s(Llama2‑70B,INT8)[67];功耗显著低于 H100,同负载下能耗可降约 5 倍[67][52]。
& Z% n: g' X. fGoogle 内部披露 TPU v5 能效约为 H200 的 1.46×,Trillium/TPU v7 更高(约 2× 甚至以上)[52][65]。
) f( B8 ]/ v* b% {华为昇腾 910B:5 p; @& P6 w& Y, t. c
FP16 算力 320–376 TFLOPS,INT8 640 TOPS,TDP ≈ 310W[80][81][82];能效接近甚至超过 A100,在长序列推理上 token-per-watt 可超 H200[71]。
0 X' @/ J: j: w( G+ b单芯片成本约 5 万元人民币 ≈ $7k[60],显著低于受限版本 H20/H100。* E' c- R* ^' p! j0 ~0 r/ A
阿里平头哥真武 810E(Zhenwu PPU):9 g; I$ n* \6 D# @
96GB HBM2e、700 GB/s 互联带宽[59][111],功耗约 400W 级别[102],整体性能对标 NVIDIA H20/A800,并已形成万卡集群部署[59][111]。
9 `" l6 p; r3 b2 n1 t% e结论:
[. w1 W. F$ T能效(tokens/J 或 tokens/W)排序大致为:Google TPU v7/Trillium > NVIDIA B200/GB200 > TPU v5e/H200 ≈ 华为 910B ≈ 阿里真武 > H100/A100。
4 ?: f% C5 S% R) I5 @1 q6 q单芯片/整机价格排序:华为/平头哥 < TPU 自用成本(Google 内部) < NVIDIA 公版(H100/B200/GB200)。
5 J- ]% C- v& z1 e对中国市场,在算力性能足够的前提下,昇腾 + 真武 方案的 CapEx/每 token 成本有 30–60% 的价格优势。
7 h) [1 {7 ^% x1 O i2 J自建 vs 云租的 TCO 与 token 成本
2 f; {8 G+ I- ^8 @9 [: V% u. i7 Y( p: L- z# F+ f2 z: \% a
LenovoPress 对 8×H100/H200/B200/B300 本地 vs AWS/Azure/GCP 的 5 年 TCO 对比[28]:3 F$ |* Z- @. f" H- c/ Q% O
8×B300(Config D)自建 5 年 TCO ≈ $1.01M;
3 \8 \* ]/ y; T$ p0 {等价 AWS p6‑b300.48xlarge(24/7)5 年 ≈ $6.24M,节省 83.8%。
7 H7 v: ~8 l, o! H8 [; P8×H100(Config A)自建对 Azure On‑Demand,回本点约 2,720 小时(~3.7 个月),对 1/3/5 年保留分别约 4,423/6,800/7,591 小时(~6/9.3/10.4 月)[28]。
( v& e+ x# b& m* k% H0 M! S+ NToken 成本对比示例(LenovoPress 场景)[28]:
7 ~' v, o& c+ f& \$ J1 \Llama‑70B 推理,8×H100 本地:约 $0.11/百万 token& h7 E R& {* ?
vs Azure H100 On‑Demand:$0.89/百万 token → 自建 ~8× 便宜。* r7 o4 |; H9 E1 T
同样 70B 模型,自建 vs GPT‑5 mini API(约 $2/百万 token):自建便宜约 18×。% `/ H) v8 W0 E! V
Llama‑405B,8×B300 自建:$4.74/百万 token,AWS B300 On‑Demand:$29.09/百万 token → 节省 ~84%。. a1 B0 o2 S. }0 Q& y' n" o" c
结论:
: u# F' K' ^1 |$ p高利用率、长周期推理负载下,自建 AI 数据中心的每百万 token 成本可比公有云或高端闭源 API 低 1–2 个数量级。
5 V6 X$ W. b: @. B) z( xToken 电费占比极低,自建 vs 云租的差异几乎全部来自 硬件折旧 + 云溢价 + 运维与利用率。' J* f# E$ F S
二、建设期成本分布:区域对比+ `! }$ E8 X5 A* Y1 Z! K7 v% ]
以下重点讨论 壳体+机电(不含 GPU) 与 全栈(含 GPU) 两层。
/ z' k* k5 p& N# s
: G# `' }9 @: T, u/ b% V- q2.1 全球/通用结构(以 1 MW 为单位)2 c; o* ?; ]$ j4 k, P' Z$ o
综合 JLL、ConstructElements 等[2][41][40]:& j7 ~$ p# w3 c/ \6 G! S
3 u. @' a; ?9 S/ I8 `: X" P+ T c壳体+机电(Shell & Core)
* [- D' p1 E0 h/ Z5 x( G9 `$ G: v7 K3 F
全球传统 DC 平均(2025):$10.7M/MW,2026 约 $11.3M/MW[2][41]
8 U9 m5 J* P9 H, N! l3 v其中按成本构成[40]:
9 \+ F2 f2 Y; A W! ]9 P: v7 z( C电力系统(变电、配电、UPS、母线等):40–50%0 S8 e; G6 \; l( I
机械与冷却(冷机、冷却塔、管路、CRAC/液冷):15–20%
6 V% p3 m# q$ C/ a0 \0 G4 D建筑与土地、结构:约 15–20%2 G; \: w! S! a% [. A. t h$ _
其他(消防、安防、楼宇管理等):约 10–15%
# P# O% S/ \2 `IT 内装与 AI 基础设施(不含芯片)/ e! H* Z$ j- h/ M
4 }6 r* L9 @. ^8 O0 q. e! Z$ n
高密 AI 集群内部装修(高密布线、机架、液冷板/浸没舱等)会在每 MW 额外增加 $25M/MW 量级[40],对 GW 级园区影响巨大。8 @2 E: H. i: c7 G4 y/ C) @
GPU/加速卡硬件 CAPEX
5 P" V% H. J$ A O3 \4 ~* H# a2 Q, \+ s/ X1 i
多数分析认为 GPU 占 AI 数据中心总 CAPEX 的 30–40%,其中 NVIDIA 单家毛利约等于整个行业 CAPEX 的近三成[36]。
; A4 B% y& H9 D! e2.2 中国 vs 美国 vs 欧洲 vs 中东:1 MW 建设 CAPEX5 Q) n5 W" s, T% @8 C! D
结合 ChinaTalk、JLL、UAE Stargate 等[1][2][20][13](仅壳体+机电):
! A, m- ~$ ~6 ]$ i9 M
2 O+ t( `+ ?0 l1 L7 m2 y区域 典型建设成本(壳体+机电,$M/MW) 备注
* Q8 i1 o9 t [/ V. g8 V% j4 j中国 $5.5–6.5M/MW 以西部算力基地为主,400MW ~ $2.4B[1][13]2 T6 ]1 F+ N( M5 O* m& D
美国 $8–12M/MW 典型超大算力园区 400MW ~ $4.0B[1]3 }5 R; K0 C4 g: v- f# W
欧洲 $10.7–11.3M/MW 接近全球平均,部分核心城市更高[2][41]
# s4 A' L" U! T. n! w5 l中东 ≥$6M/MW UAE 5GW Stargate >$30B → ≥$6M/MW[20]
, F. }9 }1 }0 A# `4 n+ P4 B结论:* u0 a. k: h3 J& j, {' W
2 j8 _/ ]1 j5 [
单位 MW 壳体+机电 CAPEX:中国 ≈ 中东 < 美国 < 欧洲。
$ P; d& }4 E( y) {* p若考虑土地、电网接入和许可周期,中东(特别是 UAE/沙特)在电力可得性和政府补贴方面往往优于欧洲,趋近美国甚至中国。$ P. ^% f5 b ^' I: \2 s
2.3 引入 GPU 后的全栈 CAPEX(以 400MW 集群为例)3 `! g2 l. V' F4 ?
以 ChinaTalk 的 400MW NVIDIA GB200 NVL72 集群为例[1]:/ c$ b, F7 |" r7 Y' ^, w& n {+ O
6 L; I/ _$ s7 V& p( K1 e/ ~
假设:PUE=1.11,电力侧 400MW,中约 360MW 投入 IT;
8 U; k7 O0 B) x% ?GPU 配置:
2 N# g5 }, m! m& D有效 312MW 用于 GB200 NVL72,约可容纳 2,154 racks(每 rack 144 GPUs,对应功耗 ~145kW/rack);! p9 O2 c4 J \5 o' U! ~8 M( ~
每 rack 成本 ≈ $3.0–3.35M[34][69];, o9 }& J% O. r8 p" `8 A4 ?! j
GPU 总 CAPEX ≈ $6.5–7.2B 量级(ChinaTalk 抽样约 $5.6B 略保守[1])。
" u! @( L6 \+ |: X0 c5 a( c3 H与不同区域壳体+机电组合:
$ H/ n5 u9 Z& B, b
" _) M: v2 ^2 Y. o以中值估算:
% b# D7 K$ M1 g8 [* [% P! h* a, B/ y0 |, E$ d
中国 400MW:壳体+机电 $2.4B + GPU $5.6B ≈ $8.0B' N; e' K1 v( G# Q4 [, Q( F
美国 400MW:壳体+机电 $4.0B + GPU $5.6B ≈ $9.6B! W) |. P5 T$ M4 Q3 Z" _& v
欧洲 400MW:壳体+机电 $4.5B + GPU $5.6B ≈ $10.1B5 v1 h$ H# V0 l( F |) o
中东 400MW:壳体+机电 $2.4–2.8B + GPU $5.6B ≈ $8.0–8.4B( Z+ ?: G$ i: w
可见:
% o* Y5 c; E7 v6 i6 ], [# |5 C E
- c7 A E+ @7 a8 |6 oGPU 成本在各区域大致相同,决定区域 CAPEX 差异的主要是壳体+机电与土地/电力接入。; X8 m& }' j* \4 l' |
相比美国/欧洲,中国和中东可在 400MW 级别节省约 $1.6–2.1B CAPEX,这对 IRR 有直接影响。: j/ r' b/ P3 s: l( X: I; ?
三、运营期成本结构与区域对比
$ l; [( m6 _" \- y3.1 通用 OPEX 结构(高密 AI DC)- ]( W( w1 i$ B, J
结合 ConstructElements、IEA、Microsoft/Google 披露[40][86][103][104]:
: T) W! Z# T9 |" h U
; m/ }. O# R; {, l, Z: Q& u- o电力:约占总 OPEX 的 20–30%(传统 DC),对于 AI DC 因 GPU 负载密度提升,可达 30–40%。
. C8 h( m) F" L- \5 a/ V4 l2 ~冷却与水资源:' N- R- e9 t/ x& W2 g
能耗:传统风冷约占总功耗 30–40%[39];液体冷却可将 IT 与制冷合并大幅降 PUE 至 1.1 左右[29][115]。
. v9 z2 Y6 c U' @2 P, D4 ?水耗:典型 DC 约 1.9 L/kWh 水用量[105],每日用水可达 300,000–5,000,000 加仑 规模[100][101]。
2 {# k. w J' O* c1 H) M6 K+ O人工:视地区而定,在中国/印度/东南亚占比 5–10%,在美欧可达 15–20%。8 {: \, y$ e* @
托管/物业与维护:9 d* y$ E, c; J. M
托管:高密机架约 $1,500/机架/月,标准机架约 $600/月[40][28];2 R* ?' u# s8 [7 v; O
硬件维护:LenovoPress 模型中按设备价 12%/年[28]。
) T, }0 p& Y( H1 k. q' |3.2 区域差异(以 400MW / 3 年期为例)
: _; `3 u' W2 g7 l使用 ChinaTalk 的电费与人工估算[1]:
6 {; Y- J t! n$ A. b) p" U( R6 a$ ?
电费(3 年) – 假设 GPU 利用率 60%,IT 360MW,PUE=1.11:
5 T. K" p2 g: l c1 B7 G V4 h中国:约 $0.06/kWh → 3 年电费 ≈ $350M3 h7 Q$ T, y( g. O R' }
美国:约 $0.09/kWh → 3 年电费 ≈ $600M3 R t- r% n0 m% a% X
中东:约 $0.07–0.10/kWh → $400–550M
# e) M0 V! @- D' e欧洲:约 $0.20/kWh 以上 → 电费 > $1B(显著劣势)2 @) d8 @; ~. Z* v6 K/ X. a c
水费(3 年) – 以 MS Fairwater 站点 280 万加仑/年为参照[1][103]:
9 g1 E7 T, t- E5 R% M美国水价约 $5.18/千加仑,中国约 $2.57/千加仑[1]: T; z ` T, D2 z9 U' e+ ^1 q
三年水费级别:
V- r2 i. U% s6 A8 N美国:$40k+
# }' J% N7 ?4 P0 O7 N+ L2 r1 ~中国:$20k+
% s2 S6 ?. q2 v. C8 i5 N$ _结论:水费是数量级上可忽略的小项,真正的约束是水资源总量与选址,而非成本。: U o; ^' x/ s3 M2 ]4 Q+ K K
人员成本(3 年) – 假设 500 名全职运维:5 |0 J) ^; N( y! ^. T3 G" l
美国:500 × $120k × 3 = $180M+
# R. L! L; n& x1 c* ~9 y中国:500 × $22k × 3 = $33M+/ Z" H' C/ t' x+ o" \
差异约 $150M,规模与 3 年电费差不多,是中美间第二大成本差异来源。
5 E$ G* D6 y& v整体 OPEX 粗算(3 年) – 400MW 场景下:+ D. j3 f+ g5 p1 Q5 j- m
% p: U- B+ Z* y# O: Z& d项目 中国 美国
1 }+ v/ q$ b( D. x3 M电费 $350M $600M0 u% f! [2 ~3 t( {" G: E
水费 <$0.05M <$0.05M
/ b3 y8 J. q6 m. Z2 _( @人员 $33M $184M
6 V( f3 P3 ?( e3 J# s9 d其他维护/托管 同比例估算,地区差异主要体现在人工与地价 * b* i9 J& a! ^, X) ?3 A
结论:8 h; X( t0 }6 g
7 k- h# R; o' L# q7 z8 f
就 3 年期而言,中国与中东在 电价+人工 两项合计可比美国/欧洲节省 数百百万美元级,与整体 CAPEX(数十亿美元)相比不算决定性,但对净现值和现金流有实质贡献。" X1 h+ h. J" z' z+ Q8 {/ U
对大模型服务商而言,更核心的是 GPU TCO 与 token 单价之间的剪刀差,而电价更多影响“边际利润率”而非“能不能赚钱”。
0 ^9 g+ n0 \6 n0 L" X四、基于 token 的成本与利润推演
1 E+ K+ T9 |1 }6 g' I1 \ T! a! N4.1 能源维度的 token 成本(题设 0.3 美元 vs 0.3 元)6 G3 Q# M* G x6 h
统一假设:/ [0 B7 Y6 D, U' N
9 i. w5 q7 J ?* d" z) v% S
典型大模型推理能耗:约 1 J/token(考虑 FP8/BF16 优化、Batch=256–512 时的能耗甜点[26][17][18]): a/ M ~3 v/ a1 C
1J = 2.78×10⁻⁴ Wh → 每个 token 约 2.78×10⁻⁴ Wh4 j& g$ W0 v4 m! k. o, L7 g" k& t' I
1 百万 token:278 Wh = 0.278 kWh
6 M4 W. L& Y d4 K0 ~' q3 u. f场景 A:美国电价 $0.30/kWh9 L b! ?$ ~7 K4 q6 S
电费/百万 token = 0.278 kWh × $0.30/kWh
! K6 P( m2 Z. s≈ $0.0834 / 百万 token# K5 k$ [) f* C. `8 x5 X% ] C6 k4 C
场景 B:中国电价 0.3 元/kWh ≈ $0.042/kWh8 Y2 u' y' p x5 q) M" u# E
电费/百万 token = 0.278 kWh × $0.042
9 z& Q* U. J. p8 p7 k. u≈ $0.0117 / 百万 token
/ ^4 r' e7 m6 z: _# Q对比当前 API 价格(OpenAI 2026Q1)[62]
4 N$ V! `( B( }" G8 c8 `9 \* o以输出侧为主(成本最敏感):
- ~. `, N' [" o% d4 l9 u j2 _" Y: g1 K0 d$ K
模型 输出价 ($/百万 token)2 M! u9 Q( N& a- G M4 W8 E* q
GPT‑5.2 $14
2 ?5 N/ R" X6 O- aGPT‑5.2 Pro $168
! S* L3 [9 g: ~, \* eGPT‑4.1 $8( E; K* j3 J! g5 O @( R4 p
GPT‑4o $10/ f7 d" y/ p! Z6 D c
GPT‑4o mini $0.60
: J S# g$ B8 d2 j. m$ Q1 I6 R; Z$ ^则:
+ x( @& c# F2 o7 Y7 j
7 L; i4 v# g C2 r+ Z1 f在美国 $0.30/kWh 的极端高电价下,电费占 GPT‑4o mini 收入的 ~14%(0.083/0.60),占 GPT‑4o 仅 0.8% 左右。
) @* q2 j0 C0 P0 p% Z) C/ M在中国 0.3 元/kWh 下,电费占 GPT‑4o mini 收入的 ~2%,占 GPT‑4o 的约 0.1%。
/ _* p6 k6 ~& S7 m* ^! K" [相比之下,GPU 折旧+云溢价+开发/运维成本才是主导。
5 M! i9 e: r3 x5 W- ]结论:
6 w, q2 P: [3 |) K+ W. V2 L9 m( Q即便在“美国 $0.30/kWh vs 中国 0.3 元/kWh” 的极端对比下,每百万 token 电力成本差异约 $0.07,与主流 API 价格($0.6–$168/百万 token)相比仍属“小数点后两位”的影响。区域电价主要调节“利润率边际”,而不会改变“项目能否盈利”的结论。
% \% R6 o2 O8 [0 M" `$ t c' C# J5 ^2 t
D# `: A7 M& j4.2 全成本 per token:自建集群视角(基于 LenovoPress TCO)
' K- j: B( M, F+ E, }+ g( z; G以 LenovoPress 的 8×H100 Config A 为例[28]:# s3 F+ P5 H0 h# P8 ~! d; |
4 W* @' W& I2 m( _
5 年摊销下,8×H100 本地推理 70B 模型:
v' D" P9 D% r7 f$ T小时综合成本(CapEx摊销+Opex):$12.08/h
i0 K$ v" F2 q Y) ~: [3 Z( Q吞吐:30,576 tokens/s → 每小时 ≈ 110M tokens
. `' e" P1 O. h h( @; r成本/百万 token ≈ 12.08 / 110 ≈ $0.11/M token
5 A O% q6 u2 `/ ]电费在其中的占比:: V! G5 s# i6 h$ o# h" T, @1 L2 y3 y
Opex 6.37$/h 中电力+冷却约 $0.87/h[28]
" x0 h& m0 E7 l7 Y4 E5 E- ]/ Q: {电费/百万 token ≈ 0.87 / 110 ≈ $0.0079/M token; Q0 N& B, \3 Y! |& ]9 h
电费占 总 token 成本 ~7% 左右。" D$ L" v' t$ k# V* q( [6 w
若将美国电价从 ~$0.12/kWh 提高到 $0.30/kWh,则电费约增 2.5 倍,对总 token 成本影响约 +10–15%。
( Y) r3 E' I( Q: q若迁至中国西北 0.3 元/kWh 或中东低价长协,电费可再降 40–60%,总 token 成本再降低约 5–10%。! ?+ y2 D% v: ~8 K
# V3 j3 R) M. V( A
因此:
, H0 H5 K5 |9 @4 {& n% X
% C5 s" \# @1 c- F& I在自建集群场景下,电价对 token 成本有可见但非决定性的影响(变化量级在 ±10–20%)。
* a1 }3 B) r8 Z7 V) w2 a% a( l在云租和 API 模式下,电价影响则被进一步摊薄,绝大多数利润被云厂商的溢价和 GPU 供应链吸走。, A' F4 a u# S8 [! c
五、不同芯片方案的建设与运营成本对比+ o' w" j! C+ M. l
5.1 NVIDIA 方案(H100/H200/B200/GB200)
8 }& U$ r% \8 R' U) XCAPEX:
$ I* z% i% B( f9 M3 m) b
1 ?' ~& T- c. uH100:单卡市价 $25k–35k,8 卡服务器约 $250k+(Lenovo 配置价 $250k 左右)[9][28]。
/ c0 `+ O$ O" ?H200:显存提升,单卡价更高,8 卡节点约 $280k[28]。
, @4 S4 l8 k; f e2 k0 `B200:Blackwell 代 GPU,8 卡服务器约 $338k[28]。- T& \/ Z W: `0 X; h$ H: v
GB200 NVL72:# d$ e' f5 l5 A' M* o0 [+ C4 E
每 rack 带 72 GPU + 36 Grace CPU,售价约 $3.0–3.35M[34][69]。
7 W: W% I: }) f# x6 V" k/ f1 z冷却系统每 rack 额外 $50–56k[35]。
4 s7 q2 t+ c. c2 s在 400MW 场景中,GPU 总 CAPEX 约 $5.6–7B,占总体 CAPEX 近 40%。
! _9 T8 C6 ?/ ^3 _( o8 POPEX & 能效:
% l. y2 H& j: J9 u2 D
" y3 M0 I3 R5 B2 K) T* r单 GPU 功耗:
0 q% ?( P( H: ^6 H+ PH100:TDP 700W;集群实际单 GPU 含服务器/网络开销可到 ~1,500W[16]。8 L6 U5 T0 _4 L! }6 ?0 U5 E
H200:功耗类似或稍高,但性能/W 提升[9][10]。
, r+ J. z( k4 F7 RB200:标称 1,000W TDP,但实测约 600W 左右[68][69]。
S) |% T% h4 d+ n# mToken 性能:1 ~3 a3 B4 I/ r7 U, d/ j+ h
B200:官方推理基准中,可达 60,000 tokens/s/GPU 级别(gpt‑类模型)[68]。
& G% b7 B+ j; E' h9 f3 |NVIDIA 的优势:
7 X A& Z8 Y, B% }7 n1 m# X# H/ M0 N- J
软件栈成熟(CUDA/TensorRT‑LLM),易于榨干硬件性能,batch 与多 GPU 并行调度成熟 → 在同等 PUE 与模型条件下可达更高 tokens per Watt。
, o# y/ i6 k U但硬件价格与毛利极高,从 TCO 角度,“谁买单 GPU 溢价”是关键——云厂商多半将成本转嫁给 API 用户。! t6 `+ S! o0 B2 f8 ]+ i5 e6 H
5.2 Google TPU 方案
; V9 Z4 ?' P5 b0 H; F4 o! |5 zCAPEX:9 ~# e P7 u0 A* k5 g, e( c
2 m _( d* K" ]0 l! Y. ?单 TPU v4 定价约 $3.22/芯片小时,v5/v6 在云端按实例小时定价对外[52][54]。7 j- G) w5 V9 O5 R/ F/ @ r
GSR 估算:TPU 的出厂 ASP 约 $4,500–5,000/片(Google 内部成本)[54]。
6 k; R9 ]7 q, A! i3 U0 e8 TPU v5e 实例约 $11/h,而 8×H100 云价可高达该数值的 5–10 倍[52][54]。
6 S# v* e; Y% p能效:( u6 Z: g$ n N: F
8 [3 q3 ^9 n4 O( U! r/ x6 u0 q5 o$ FTPU v5e vs H100:7 J* {. v* V2 x
同级推理场景下,8×TPU v5e ≈ 2,175 tokens/s(Llama2‑70B,INT8)[67],H100 需更高功耗才能匹配。( v7 X0 P1 B7 l/ v
测试表明 v5e 功耗约为 H100 的 1/5 左右[67][52]。* O9 h; M2 @0 u
新一代 Trillium/TPU v7:+ y( I7 w! Z4 H( ]: Q
能效比 TPU v5p 提升 ~67%,对 H200 或 B200 整体上能实现 2–3×性能/W 优势[52][65]。
* r; V9 p) r+ }8 i+ oGoogle 方案的特点:
/ y. {9 M& e9 r# \ y+ `
+ i5 _1 p# L; o8 ?6 i# R4 r自用闭环——Google Cloud + TPU + Gemini,利润来自整体云栈,而非单个芯片;" U, P) |; F. i1 K6 y, M
对外公布的 API 价格较为激进,TPU 方案在 tokens/W 与 tokens/$ 上具有显著优势,尤其在内部工作负载。
: A( D F* F" \* K/ O5.3 华为昇腾 910B / 910C 方案
4 Q+ G4 q! i" S ? kCAPEX:3 v) C& p/ w$ i& }
; k9 R0 _& j: p$ C0 t. E单 910B 芯片成本约 50,000 元人民币 ≈ $7k[60];910C 约 110,000 元[60]。. T7 U7 T, ?% d% q- s
与 A100 对比:5 H) a) D( Z4 J0 w
FP16 算力 320–376 TFLOPS,功耗 310W,性能接近甚至略高于 A100(400W)[80][81][82]。
+ ^/ H2 `3 A0 y" v市场报道中,NVIDIA H20 在中国售价约 10 万元/片,而 910B 更便宜 30–40%[61][72]。
* @% Y; P% `" o3 n/ ^使用昇腾构建类似 400MW 级别集群,总 GPU CAPEX 相较 NVIDIA 可节省 30–60%,视集群规模与供货条件而定。
# P+ n7 n n0 s3 F4 w ]! UOPEX & 能效:
3 e2 x" x# n9 h$ _
3 i5 A6 l2 L: Y6 k6 r0 ?2 e% F+ i7 f0 L910B 功耗 310W,FP16 320–376 TFLOPS → 性能/W 与 A100/H20 接近或更优[80][81][82]。7 q6 t* o4 t. d& e/ o
部分推理 benchmark 显示,长上下文(>4k token)推理时,910B 在 tokens-per-watt 上可超过 H200[71]。
! {+ e, ]- l5 ~在中国电价(0.3–0.4 元/kWh)环境下,昇腾方案在 TCO/tokens 维度有明显优势,但生态与软件栈仍在追赶 CUDA。/ \, [2 \. ?; `7 ]9 m
5.4 平头哥真武 810E(PPU)方案0 y [0 E( m) @
CAPEX:
# q4 u& D" R* I I+ R9 L2 a
5 y6 g$ ~* _/ V+ |3 B/ M; D& A技术参数:0 F6 x( [/ U+ ]$ p7 a. F$ J
96GB HBM2e,片间互联带宽 700GB/s,自研 ICN 互联,PCIe 5.0 ×16,400W 功耗级别[59][102][111]。
" K% c3 F: L' w4 N性能:官方宣称整体性能超过 A800 与主流国产 GPU,与 NVIDIA H20 大致相当,升级代际可逼近/超过 A100[59][110]。
) I4 E0 X: k: Y0 r价格:& A9 j9 H6 y9 [6 R; K! ]6 ^
未公开详细单价;多个媒体报道指出“单位算力成本可下降 ~40%”,与英伟达 H20 有 3–4 成价差[74][112]。
8 L" L6 |, w# g2 Z. F5 G6 t结合国内报道:
% x; m" O, T+ }2025 年出货量数十万片,已在阿里云实现多个万卡集群部署,服务 400+ 客户[59][111]。2 G; F$ }2 X6 S
数量规模与生态成熟度迅速提升,使得 真武+昇腾 成为中国公有云/算力租赁的主力基础。
' p6 X" E( l$ W9 X7 C8 G* M# ~. ]: FOPEX & 能效:, ?9 Z* Q7 d$ s4 `* x
& x. x7 P! D) J9 I! q
400W TDP、96GB HBM2e,使其在 高上下文、RAG、大模型训练+推理一体化场景 中具有良好性能/能效平衡;) D" b! e& `) c6 m; p' j. V8 Q
在中国低电价 + 低人工成本环境下,真武方案可将 AI 推理服务的综合 token 成本进一步压缩 —— 对标 NVIDIA H20,本地算力提供商可在保持 ~8–9 成性能的前提下降价 30–40% 仍保持毛利[74][112]。
) i1 L: T) Y, }, u: _7 q六、综合比较与策略建议
" g+ J Y% \7 [! e" U9 Q6.1 区域维度:在哪里建 AI 数据中心?
1 s0 v; H2 m# ^" c2 y纯经济性(TCO/tokens)排序(假设无政策/合规约束):
5 \0 e s O$ E! T) a( L3 @: Z6 a' J! m5 q6 H( n1 W% L+ i
中国西部/北部(电价低、人力低、建设成本低)+ o7 S" W+ I* N: s# O( k
中东(UAE/沙特)(电价中等偏低、土地与电力可得性好、政策支持)" @, R; i; Y6 O0 v* u
美国电价低但人工高;东海岸/加州电价上涨压力大
& ~0 ]: L" l8 j4 K6 G0 n欧洲电价高、审批严格,但接近高价值企业客户和数据主权要求
- P- P, t7 m0 i: B- K$ r5 b- |. ~; v U若以“美国 $0.30/kWh vs 中国 0.3 元/kWh”极端场景比较:
/ ^; }( Y# `- E' P; h8 n4 ]/ [& |2 B- o- j9 ?/ ?2 G& h
纯电费/百万 token 差异:约 $0.083 vs $0.012 → 差别 ~$0.07/M tokens;
. D& D$ }+ Y2 `' z对比 API 价格:差异对整体利润率的影响远小于是否使用 NVIDIA vs 国产芯片、自建 vs 云租的差异;( D; c/ _3 G- T I
但在极高利用率的 自建超级集群 场景,电价仍然能在 5 年 TCO 上带来 10–20% 的边际优化,是选址决策的重要考虑。 I8 X2 W7 _7 ^+ a! t( f
6.2 技术栈维度:选哪家芯片/云栈? M" J0 [% \4 k9 ~! u
若目标是全球最优 tokens/$ 且不受出口管制:
" K: J4 ~4 i9 K' s6 t' A; b& {$ u* E2 K; q$ w9 E0 t( Z1 Q6 e
Google TPU v7/Trillium + 自建 on-prem:性能/能效与成本的综合最优,但前提是可以直接获得 TPU 硬件与软件栈授权(现实中仅限 Google 内部和极少数大客户)。
% w \4 l& Y/ u( K& ? [若在美国/欧洲,能自由采购 NVIDIA:
0 z$ o" ?3 D3 n6 u. e; }; v! l* i7 D$ _
短中期内,NVIDIA B200/GB200 NVL72 仍是最佳实践:
( D, z3 h8 ~' C& y% k2 T; M0 T l8 c成熟的软件栈与生态,极高的 tokens/s/GPU;. Q0 C- R( j6 h: x D
在云厂商/超大规模自建模式下,配合液冷与 PUE~1.1,可取得较低的 token 成本;
6 t2 Y8 [& J3 e3 G但要谨慎评估 GPU CAPEX≈总投资 40% 的集中风险。0 N, c& h4 X/ ^- ?& J) i4 b4 l
若在中国或存在出口管制约束:
! l( U4 H& @1 Y- T2 F8 l: v/ t& y$ ~0 s8 j+ M" b% Q
昇腾 910B/910C + 平头哥真武 810E 是现实可行的主力组合:& q4 I! r5 M' I$ O# z& e( E
性能上已能覆盖大部分 GPT‑4 类推理需求;, Q; q. ]+ P8 a3 z/ [8 v4 E& V
单片成本显著低于 H20/H100,集群 CAPEX 明显更友好;
: v- `; t8 c" k; l* t! s软硬件全栈国产(CANN + MindSpore + 通义/Qwen 等),可避免制裁风险;
- G2 V. L6 i, \; S' e建议配合:! u% b' z# K q( k# O
高效液冷(PUE~1.1)、: h( [% p2 S. B8 M* U0 z, }
大 batch、路由(浅层任务走小模型/低成本芯片)、
1 ~/ K4 T" w) z R6 u8 z% M- V强量化(FP8/INT4)与分层缓存策略,进一步摊薄 token 成本。- D$ |& ~* V; b ^7 J- Y9 e8 k$ f% W
长远看,“tokens-per-watt / PCE” 取代单纯 PUE/FLOPS 成为核心 KPI:
" P |3 d! ~$ b8 x/ c9 u1 V8 `2 u$ T5 Y2 z4 \8 [
数据中心运营者应从“PUE 1.5→1.1”的设施思维,转向“每瓦输出多少有价值 token”的AI 工厂思维[29][118];3 l1 {$ K* t: C- S- o) D& h
这意味着:
8 f( e" D7 {% V3 T5 ^优先选择 更高 tokens/J 的芯片架构(例如 TPU v7、B200、后续国产芯片);. N8 a4 G% ~* e" ?6 h+ z1 D
精细化调优 batch size、路由策略、CoT 深度,将“energy-per-token”作为最优先指标来优化[17][26]。. E6 j' P+ q1 t( j
6.3 针对你关心的具体问题的简要回答
7 F+ d' R# ~4 j& w# H; @AI 数据中心建设 vs 运营成本的大体比例?
1 W4 C+ z3 G; v% L( R9 X0 ^
& s6 d+ m: `( w$ a' r7 f, z) n在 5 年期 TCO 视角下,CAPEX(尤其 GPU)约占总成本 50–70%,运营成本(电力+冷却+人工+维护)约 30–50%。6 p3 v% c- I5 f7 E7 Q
其中 GPU 自身 CAPEX 占到总 CAPEX 的 30–40%[36]。
9 @/ k7 Z$ u3 k, q; f0 m- x5 Z/ U中国、美国、欧洲、中东的成本结构区别?9 s, u$ p( H5 w( M, s
: S6 S/ o U. B5 C6 Y* u9 o建设期:3 [9 n$ T/ E3 |5 v( v8 K
中国/中东的壳体+机电成本明显低于美欧(约 5–7 vs 8–12 vs 10–11M $/MW)[1][2][20]。4 W: R* Y; \' K2 ~9 `2 m
运营期:' w @2 m3 H: B; o; z; t/ I
电价:中东 ≈ 中国西部 < 美国平均 < 欧洲
; c# M( m2 z) G9 h/ D/ w) Q. r& ~+ N$ \人工:中 国 ≪ 美 欧,中东居中。
+ N: M9 T9 k: W" h0 D' L' E在美国 $0.3/kWh 与中国 0.3 元/kWh 下 token 成本与利润率?/ ^. y; X! ~+ H( j& l# t0 G
1 O" i- R6 @/ V- l
对于典型 1 J/token 推理负载:& i% c' @1 l7 v) [
美国 $0.30/kWh:电费约 $0.083/M token' r& v2 E3 s7 ? k3 H/ e' {
中国 0.3 元/kWh:电费约 $0.012/M token$ k+ }/ Y, b5 W) Y& T9 x* v
对比 OpenAI 等对外价格($0.6–168/M token),电费无论在中国还是美国都只是利润表里的“小头”,主导因素是 GPU TCO 和平台溢价。
! H6 @, c& f# ? \$ c不同技术方案(NVIDIA / Google / 昇腾 / 平头哥)的建设与运营成本谁更有利?! T: Z8 t: }* K0 T4 ?% i5 i
/ d7 G& T6 l9 I- E5 Y, N7 V在可获得 TPU 的前提下:Google TPU v7 在 tokens/W 和 tokens/$ 上最优;
$ {" R ~( y5 U* Y; A: o8 c# A6 M# {全球通用方案:NVIDIA Blackwell 全家桶(B200/GB200)+ 液冷,但 CAPEX 巨大;
: r( ^" h. t: C8 p7 Y) f& j中国/被管制市场:昇腾 + 真武 是当前最有经济性与可持续性的路线,综合来看能把 token 成本压到 NVIDIA 方案的 40–70%。 |
评分
-
查看全部评分
|