设为首页收藏本站

爱吱声

 找回密码
 注册
搜索
查看: 336|回复: 7
打印 上一主题 下一主题

[科技前沿] 华为韬定律芯片是如何降低功耗的?

[复制链接]
  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    跳转到指定楼层
    楼主
     楼主| 发表于 昨天 07:00 | 只看该作者 |只看大图 回帖奖励 |倒序浏览 |阅读模式
    本帖最后由 可梦之 于 2026-9-11 07:35 编辑 ' o! }' K% J- I8 [: f

    3 k8 \% {9 ?" o3 k& e7 e: A9 I华为推出韬定律后,大家(包括我)最关心的一个疑问是:把两个芯片面对面放在一起,功耗和散热怎么办? ' S" p% H3 V* @& G1 T* N' C
    5 Z8 \- m) L+ H: b: g" B2 F! S& O
    最近,何庭波发表了第二版韬定律的论文回应了这个问题。经过麒麟2026(内部名称,对外是麒麟9050 Pro)芯片验证,韬定律芯片不仅仅没变热,还变冷了。
    ; P% ~) D* L/ e% D
    0 J, R3 v+ G# Y9 M6 k+ {  U这个结论得到了广泛的媒体报道,但还是有点反直觉的。华为到底是怎么做到芯片功耗的1+1<1,抱着这样的疑问,我把论文原文拜读了一下(https://chinaxiv.org/abs/202609.00031)。) c9 g2 x# p( a) F; `2 W2 q
    * B1 D& T0 O# I  U# w. Y8 {" [
    论文报告芯片密度提升了55%,与此同时功耗降低了66%。非常亮眼的数据。
    4 {+ p( R' U. s6 @: X; C
    * R% w& l( [2 u1 N- Y( T主要的阐述逻辑是:功耗的大头不是计算,而是数据传输。韬定律,或者具体来说,逻辑折叠缩短了芯片连线,从而降低了功耗。2 W) N3 x! x3 y! T  {: N: w

    6 `" ]  K" h7 h0 D( |7 E这是讲得通的,但我还是有疑问,逻辑折叠能把连线缩短多少,单靠这个能降低66%的功耗?细看之下,逻辑折叠平均降低了20%的金属走线长度,关键路径下能降低70%,在时钟网络上效果更好,平均降低28%,而且将clock buffer降低了一多半。数据非常炸裂,但是貌似不足以降低这么多功耗吧。
    ) j" W- e" t" n' s
    # B" O6 P" G, e0 n7 r' m+ s1 J; V解开我困惑的是第四章,这里提出两个测试方法:等效性能模式(iso-performance)和满血模式(full throttle)。前者降低芯片电压,算力和前代的麒麟9030 Pro保持持平。而前文公式1可见功耗和电压的平方成正比。将电压降低一半,性能就能降低到四分之一。这个才应该是功耗降低的首席功臣。0 _5 \2 A3 k0 W6 L

    1 X; Y& ~' [; f3 m文中图1信息量相当密集,让我们来仔细看一下。
    + n$ q8 F" x  t* X, s' Y1 E, `. \1 p4 J- r! R3 V
    , a$ A5 H7 a! g* J. e
    . d( J+ x6 w7 i9 O4 `: I
    首先,66%的数据是NPU在等效模式下的数据,其它部分数据为:GPU 58%,CPU:41%和23%(不同测试集),DSP:25%(2026)。满血版数据则为:NPU:+37%,GPU:+20%,CPU:+11%/+14%。选择最好的数据放是写论文的基操。
    # K( S5 O3 h5 d" d: m9 U2 F% d; ?; \. p$ S
    其次,看NPU是如何节省66%的。相比9030,芯片最高频率从1.2G降低到1.1G,满血电压从0.85降低到0.70,根据公式1,大致估算同样设计功耗降低到(0.7/0.85)^2*(1.1/1.2)=62%。等效模式下频率从1.2G降低到0.442G,电压从0.85降低到了0.55V,根据公式1估算功耗降低到(0.55/0.85)^2*(0.442/1.2)=15%。当然,公式1只是数据传输的功耗而非整体的功耗。但也可以看出电压对功耗的影响甚大。 & ?* ^8 Q( W* Q: r1 ?6 j

    * X# C6 U6 |4 Q" X. @为什么等效模式下电压/频率能降低这么多?关键在于性能从29TOPS增加到70TOPS。在频率降低的情况下,这一性能提升基本是更多计算单元造成的。简单估算计算单元增加了70/29*1.2/1.1=2.63倍。如果工艺和晶体管密度类似,那么芯片面积也增加到2.63倍。逻辑折叠理想情况下能让面积减半(NPU中大量重复计算单元,还是比较容易均分到上下两个die的),这样面积增加到1.31倍。我们看图中数据,NPU的投影面积增加为1.27倍,这里应该是逻辑折叠起了作用,走线变短可以进一步提升密度,当然不排除工艺进步因素。" m( q9 ~2 k: A% Z, n( O

    & a9 K' v5 n4 p4 @在满血模式下,估算功耗是0.62*2.63=1.63,但实测数据是1.37,这个差距剔除模型误差因素,主要或部分应该是逻辑折叠带来的。在等效模型下,估算功耗是0.15*2.63=0.39,和文中0.34更接近些。0 t# p9 X8 a+ ~8 Y* q2 P3 e) `2 i
    8 g* n6 S# d* K6 @  [/ \7 p
    因为干活的多了,所以每个NPU计算单元可以算慢点。等效模式下可以慢1.2/0.442=2.71倍,和上面数据是吻合的。我猜另外一个降低频率的因素是时延,一般来说电压降低,时延会增加。时钟周期必须拉长,否则setup违例芯片就乱套了。但不好简单估算这个关系。" C+ T8 l8 {8 ?* _. O3 A' I3 e7 p: @

    . c6 a# ?, F) x! F# O9 ^4 O散热更多考虑功耗密度,因为NPU投影面积增大为1.27倍,功耗密度相比更好更漂亮。等效模式下降低到27%,满血模式只增加7%。) S; |3 K$ M2 y* E6 K" m

    & J9 ?. i/ x* Z其它模块例如GPU、CPU可以类似分析。GPU性能从61提升到86.9,芯片面积降低到96%;CPU性能从1700/1854到2005/2084,面积降低到78%。CPU不好折叠,最差情况下功耗密度增加46%。DSP面积降低到60%,功耗密度增加24%,但麒麟2027会降低到97%。
    5 S  V7 c6 \; C% K1 C
    $ Y' N/ Z0 t( f! d: N芯片散热要考虑最差的满血模式。论文指出,这里功耗密度是上下两层die的数据,每一层的功耗密度会更低。而让芯片不工作的是晶体管的温度,所以问题不大。另外他们设计的时候特意将发热单元放在更容易散热的地方。另外逻辑折叠让走线变短,芯片面积减小,也腾出更多空间用于散热。下层的die可能会比上层的高个几度,但下面也更容易散热还好。% `4 M( c' h4 W; n! ]' K
      {& U* ?, o, f. G' k
    至此,我的问题得到了答案:逻辑折叠使得可以制造更多的计算单元,在等性能模式下,降低计算单元的电压可以大幅度降低功耗,逻辑折叠缩短了走线进一步降低功耗。综合因素使得麒麟2026变得更凉了。这一策略在NPU/GPU等并发好的模块效果非常明显,在GPU/DSP等上面则稍微逊色一些。
    + x* \& q) u! B! r5 u- ^+ S3 A4 z0 X* d5 X* O0 x2 K& w
    通过降低电压降低功耗不是逻辑折叠的专属,过去几十年我们把电压从几伏降低到现在零点几伏,否则芯片早把自己烧坏了。但阈值电压是有极限的,不确定还能挖出多少潜力。但是逻辑折叠,使得工艺密度不增加的情况下能够制造更多的计算单元,殊途同归,也是非常惊艳的。
    1 N/ @- R4 c' t. ~# ~& I% V7 @. C2 j7 h- {- i* o# {1 E3 W

    # K, d8 _, S& [3 U' Z2 r1 t7 T) x最后说一下,逻辑折叠的潜能还远远没有挖掘出来。华为把Hybrid Bonding数量提升到五千万,并计划进一步提升到两个亿。但是只用到了10-15%传输信号(其它用于冗余还是power之类的?)。文中也提到了现在设计还是很依赖工程师手动做优化。后续要挖掘更多潜能,对EDA的需求会更加急迫。有了得力的工具,逻辑折叠的潜能才能完全释放出来,让华为下一代芯片变得更凉,更酷。
    $ F, g7 V. U' j, [4 l; u& T0 P' M9 r5 H5 S" Q" F9 q: s, Q
    我辈当自强!( P0 i' m6 s. P8 i  Z
    " m* F$ X9 Q6 Y( `  ]/ I$ B% o
      P: l( a8 @$ M3 d2 C# v

    % l' I1 |6 M' p& [
    & X& V. [5 Z) t' t, N; n
      I  b8 e, N/ |6 ?" L! I+ J$ w/ E0 A; d' g- h$ z' W

    tau_fig1.jpg (207.37 KB, 下载次数: 8)

    tau_fig1.jpg

    评分

    参与人数 7爱元 +64 收起 理由
    黑洞的颜色 + 10
    testjhy + 10
    唐家山 + 4
    wbxy436 + 12 谢谢分享
    晨枫 + 10 伙呆了

    查看全部评分

  • TA的每日心情
    开心
    2016-2-18 04:19
  • 签到天数: 1 天

    [LV.1]炼气

    沙发
    发表于 昨天 12:02 | 只看该作者
    今天偶然让AI对比了一下骁龙8E5与麒麟9030,才发现其实麒麟芯片落后很多的。
    " |; P6 V4 Z/ `' a但愿9050pro能赶上来。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    板凳
     楼主| 发表于 昨天 12:26 | 只看该作者
    隧道 发表于 2026-9-11 12:02
    ' y( m2 Z( p; v' k, ~; h% z* z今天偶然让AI对比了一下骁龙8E5与麒麟9030,才发现其实麒麟芯片落后很多的。
    4 q' M4 Q0 @& A: O2 T5 j但愿9050pro能赶上来。 ...
    3 O2 _) D1 b% O$ a* r; l
    制造差距摆着呢。一个台积电3nm,一个可能是中芯国际的N+3,大概介于台积电的7nm到5nm之间。
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    地板
    发表于 昨天 15:05 | 只看该作者
    好文!还在消化中。
    ) L! @9 f. E# a5 d
    ) c% H8 i7 U8 @可以“盗版”到观网风闻吗?会著名“原作者可梦之”。! Y3 m- _8 j4 v. n% R
    + [) a0 n: A! ]) y$ M& v
    对了,第一个图转不出来。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    奋斗
    2021-4-20 05:43
  • 签到天数: 300 天

    [LV.8]合体

    5#
     楼主| 发表于 昨天 15:37 | 只看该作者
    晨枫 发表于 2026-9-11 15:05
    9 `$ D7 {' Q- \. W; f: p好文!还在消化中。. l0 ?' {6 u8 L- T  X

    $ ?  o' [* `7 B, i# h可以“盗版”到观网风闻吗?会著名“原作者可梦之”。

    % J# j! X) g7 C可以,多谢。
    ) J8 ~1 L# A4 |2 Z+ V
    + A* t! f5 G/ k" G( Q/ X图片网址是- ~4 z7 g* A1 R+ u0 `* _4 m
    https://pic.imgdd.cc/i/034MdXQk6oElQ3UA3eJ7oQ.jpg  s' ~& f0 S4 K

    ; E" d( q) F5 A/ G) R5 [) t如果还是不行,就是论文中的图1,我也是从论文上截下来的。

    点评

    多谢授权!  发表于 19 小时前
    回复 支持 反对

    使用道具 举报

    该用户从未签到

    6#
    发表于 昨天 23:48 | 只看该作者
    “刚看到新闻报道,感觉就是不靠谱的营销。业界一致都在优化各个层级的时延。几十年前大家就意识到这个问题,我导师20年前就发表论文,讨论基于计算免费,优化数据移动模型下的软件算法。华为不过是把这些打包,起了个好听的名字营销罢了。”
    1 L# y  X0 v* t. }
    # U7 y+ {7 a1 _8 M老弟想不想根据新信息对你上篇“营销罢了”的文章做一个回溯?你这样真正的业内人士对这个事情从“字研”不认可,到可能真是“自研”做出来东西了,的变化对很多不了解底层详细技术但是选择相信华为的“晨大,掌柜等”是一个很好的背景补充。9 r& l3 W8 B7 @; I" b1 N" p
    % r0 y* B5 y9 k5 Q; s; P1 p* {
    期待。。。
    回复 支持 反对

    使用道具 举报

  • TA的每日心情
    开心
    2016-2-18 04:19
  • 签到天数: 1 天

    [LV.1]炼气

    7#
    发表于 8 小时前 | 只看该作者
    可梦之 发表于 2026-9-11 12:26, r* z, R* H  H" s5 K
    制造差距摆着呢。一个台积电3nm,一个可能是中芯国际的N+3,大概介于台积电的7nm到5nm之间。 ...
    ! k% v7 W2 G$ P8 |
    9050pro能赶上8E5吗?8E6不敢想。
    2 [: p, I; P" M) L6 C8 |. g我在麒麟980买完手机之后就用到现在,不再关心芯片了。
    回复 支持 反对

    使用道具 举报

    手机版|小黑屋|Archiver|网站错误报告|爱吱声   

    GMT+8, 2026-9-12 22:49 , Processed in 0.094954 second(s), 22 queries , Gzip On.

    Powered by Discuz! X3.2

    © 2001-2013 Comsenz Inc.

    快速回复 返回顶部 返回列表