TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview0 @3 [- f' w- {: z% x( ~# V( z$ \
1 Q$ q$ i" l2 m7 B/ E7 r! c0 p m2 D( f
一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
3 c/ H" w! X+ k
: |3 h% I4 D" ^9 j4 ^# |7 h故事是这样的。
. r' C* u2 @& k4 @8 O8 s
. p$ U1 U% R5 H% ]) H0 u) ]我今天看到这个新闻,看完之后愣了好几秒。9 d* z' d3 E' ?6 a& Q2 C% w( u+ u
" T% }7 e: x0 v/ Q5 m3 d% F
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。
' |( M4 _( U& Z; i" E
2 `9 G0 c' q+ Q4 V. K结果被一个AI模型给挖出来了。1 I+ ^5 T$ `. l
, q' {) Q" @; h- l; J这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。
" X, G4 Y# V n' s0 r; x/ q% p6 C5 e* p/ M$ Q
然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。1 B7 v) F9 L* s6 F! L
. P8 E. D0 R& @0 M# H+ ~' Z
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。- [4 {+ P, ?! E) Q, y# }
1 j2 V% |4 Y! G8 S2 J/ C; z+ K然后呢?& v% x. o5 q8 o9 f
6 Z P* ?! {4 V3 z* u6 ?; t
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。
- ^! W7 P8 Q- t2 T
' q1 Z9 N1 Q" O0 f这个项目,叫Glasswing。% j: Y" Y) D7 ?$ R
$ d$ Z8 R4 R) a. \" ?1 I& cglasswing
8 _- m7 I( k* w* B- \- {
" p5 y* z. [7 F `; X3 n( m8 Z; Z' c
" o+ w6 a- |4 ?先说清楚Glasswing是什么。 T9 \5 ~! x- z& ]+ Z7 n8 W
8 L$ y1 |% K/ X3 Q7 E
简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
/ Z$ r9 O8 j8 @7 J+ t
4 d7 Q1 T8 c0 n" D7 a, D有多强呢?
- w) `5 `2 A6 F: T$ Q! y3 @
( |8 A/ W5 A P1 v2 s [5 ZCyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。
1 L& u& N' n3 D y- Q3 t" k& o
2 z" ]; \/ t% ` f1 XSWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。" i7 m" M! K' l3 j) a
/ G% p7 }8 u; d5 J6 M# \差了13个百分点。
/ P) r: s& z5 ?6 ~
" r7 L8 ~, O8 `0 n9 j: _5 {你说这13个百分点意味着什么?
2 G& |) A$ d z5 z- ~, G' m: V6 D
意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。" H/ @; `" `( ^, s* w
2 B# E0 A; {6 i9 D- L! @
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。: }7 n! t9 w9 b2 K2 s$ ?
' p& [3 ^+ ], x2 E或者说,这种级别的漏洞发现速度,会比以前快几个数量级。
, w9 ^- P& L4 I! n; W2 O3 c
; v E; D: x n8 D, v" Z说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。- `$ q2 b# y0 c- }- w0 n- f
5 y' E" y3 c2 S& _2 R ?' nOpenBSD是个什么存在?
2 e. ]% c# e' h/ @$ {' a2 z6 h) |* N; ]* ^
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。
+ A# J& v+ m, P/ t4 e
' {# j; g2 M6 {$ l+ \ {# g5 M3 }1 [这样的项目,代码审计了多少年了?二十多年。 Y4 K8 @: {& E
. B; U9 s1 {! ^0 Y2 ]$ Y然后,一个漏洞,在里面躺了27年。
P, ]' s" K. ^& l3 N# A8 g# i. P# G1 t
* m+ }8 c* n4 v' K; J8 S: t6 i/ M这说明什么?
' p3 h: C ^( z& `! V$ J
1 V$ ~& d5 W7 n- I5 ]不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。' }3 G. M* S' z/ S
/ L3 z1 ~% s1 ~4 ^! t但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。: x) I8 S8 L0 r- E6 t: r
9 x' A$ L: q2 k( l' I2 p! RMythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
3 N. f: l; M s8 a/ e- }
# l6 H# S! @" ]这种漏洞可怕在哪?& I. k: ], T% m% e
! L5 s% I- X+ h, \1 g
它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。
: g) f8 s5 h% H/ u# X9 m% q6 a" H$ I; q7 }! H# o6 Q: b, c
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。
8 s& `5 U" g' a3 I1 r
; {; P6 g9 i: Q& a! mFFmpeg那个例子更让我震撼。0 }! b5 A" F1 \3 j4 C
9 E) f( r) I/ j; F
16年。
$ w- p, f- e p9 d+ L# e" H; Z3 s$ x
FFmpeg上一次发现这种级别的漏洞是什么时候?2009年。
5 }6 D% q1 e% Y' U t' q
, R( w( l! C# _6 A6 N' k& k; Z4 n16年都没有人发现。然后Mythos Preview扫了一下,找到了。: V# F5 w+ s7 K/ v
) Y! F7 O n8 r* a$ O
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。
7 ^- V( ~; u. k& i# t* Y5 y3 p/ D8 s( Z8 D2 D2 p; s t
这是主动防御,不是被动响应。
; z, K2 I( Q* T4 F$ b8 |( ~( D7 p$ _# R$ z
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。0 a. W) b$ y' |9 g1 L2 @! K
+ L( O$ g2 r/ j* N/ M
AI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。9 x) v$ a/ F* f6 \8 N
$ `) ~! O! P9 c9 M7 Z这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。
h9 [" ^0 T( A' z
& } W8 x. n9 Y3 J0 C A/ z0 Z现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。
# x% w. h$ w. Z3 C3 \3 z7 _- J
Glasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。: G/ ]) }1 L Z$ l
* ^9 x6 E/ B8 I+ a+ x6 E. d这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。
6 N, y( P; i$ l! p
+ z6 ?4 R# f, b8 T2 D/ p8 M. O4 A/ a你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。 S6 N8 G! u" R7 }$ N2 o) j# s! s
0 z! b' ^ }9 j# V% L; U2 H+ q
价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。
* E* w: l# n( G+ p6 S* `0 y/ C+ o5 G0 o
这个价格贵不贵?
9 m& Q6 V, _) M2 {! D' |9 G
( r, D! F V8 _2 n8 Q/ C对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。8 q& U- q% B9 v5 K# {
6 H# c6 X4 }/ f1 E
Mythos Preview能发现那些工具发现不了的漏洞。
( l1 Q) F2 H3 r% ~. b9 s8 f& _* |( u. {8 Q5 _
这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
% u: U. U6 X. T/ h% N0 J+ j9 n# A# E: K& v- K) j7 d& E
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。 ^! p# {# j% G2 G) f8 A$ z, s9 c% n
/ u8 z5 }: o* N3 Y, g' u
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。4 \# c; v5 x8 U' g! R
% ~% }2 ?# a; P& H$ G
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。
0 K0 `7 s& Z; h( |0 X- c7 y
2 s4 {) k' A9 ]$ {还有一个细节,我觉得特别有意思。& p# \. @6 \& y% Q
( I3 R1 |' l' L4 J3 e" s
漏洞发现之后,公开披露的时间是90天。
! O8 y: x1 H0 Y8 l% ^7 p# [! g2 X1 u8 b/ D" a# n' w
90天是什么概念?1 p9 j* Y6 z8 I7 s! C5 Y
$ z" z2 @1 G' ^3 l! f( m- e
行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。) d6 V! `8 Y: v2 R- Y% m! r
^0 z* n3 K. Q& G( g9 ~' ]但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。3 }5 _$ U. R2 o0 y& N6 t
1 z' v, H( l$ S: ZMythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。; h; g) t. C# v% G6 ]" Z
/ ~% s' f8 K/ a4 e" h: }& X这意味着,漏洞披露的节奏,整个就变了。8 L; Z9 e* E [& H& }: T! c. Y
# Y" P2 i6 W0 I4 N以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
. q* e7 B$ S' ?3 m9 |0 c! C3 [4 R1 ~5 e$ S( N, w5 `* g: J
厂商的补丁开发速度,能不能跟上AI的发现速度?* N8 `1 F ?* Y) ~; {1 ^7 \
' _! K9 ~7 `0 j) q% f这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。
. ?% z( e! F7 G; b: v, Q
6 a8 V8 X4 S; g写到这儿,我突然想到了一个更大的问题。. l' p- q& E% Y: ?
! W4 R* p: n! P* A
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。+ y, t6 h& T/ U3 x
`1 K( m! R+ ~0 f3 |% ~, [
透明,意味着隐藏的东西变可见了。
; D4 Y7 q- ~6 S6 L# \. F7 T( o5 P- z& t' s! B6 h8 L6 K. |9 N
一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。
, O2 v! x/ z g" {" \! r! c/ d, K( D
. V. Q: J0 X3 w( G m# F8 e这个意象,放在漏洞挖掘上,太精准了。
1 y9 Y; T% d5 Z+ O' K# r, U8 _( D& ?8 B( ^4 F! B
代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。4 d5 P$ X: O, J7 x& s
' l- b$ ~' z, u2 G2 t, ^以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。- }) d2 v0 g5 s" @$ X8 }+ ~$ p
) p3 i) Y4 u- H# ? \8 j
但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。) _9 @; r0 O( I* @: m( Z& \2 \
/ G% }0 m! W9 j! W代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。
0 U ]* {( D+ O; w9 [
) D8 v" P3 r8 w2 d这是一件好事吗?
! B4 U* F/ M$ w3 s7 v: m+ Q4 w) _# X0 A. x \8 Z
我觉得,短期内,这是一件非常非常好的事。' E3 m( o- X. F7 f
2 R: X, K5 N0 z* x$ b4 c
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?# Y5 w" B2 z9 @2 \' K' s4 B# b
2 I0 b2 o" _( w; M; e这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。) ^! X4 H, Q6 ]- U
+ t) u+ H o v7 T' v! e
AI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。
5 m8 M, X8 T( r* b7 v) ]! J+ C; P" J9 e; j9 J" Z
但长期呢?3 ]2 @' C# o# ~
j, w: [$ x. d0 s! s
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?
$ E0 O8 L; E; j; Q4 {3 z- U. S
" x- }9 }/ H8 E7 b; A是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?
7 H. d# z) {. A, S8 U, \
8 b0 Z( e% m2 ^3 G8 M. f) d8 j我也不知道。& R; v) t z4 |6 G1 v
" Q1 P" R2 I2 w) p! l. X& j% \
但有一件事我特别想强调。
* l- U+ T) L- M
5 R0 L; R! |; j这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。' G9 j. j" l/ C5 p7 F5 p
: d! a: L; R+ T. O. q4 L8 M
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。
9 s# U: `! \, f* t; D6 l( }' h$ K5 a( i
他们为什么还要加入这个联盟,用别人的AI?3 y$ ]) k E% G! _6 x
# p/ E+ d# `7 N& p5 n" e2 e# b
我大胆猜测一下:因为挖漏洞这件事,规模太大了。+ I5 W; V5 r* u3 K
1 u* s2 R* Y! m" Y$ V( Z5 g
全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。 o( Y% X. j4 T6 B% Y% G7 |* t
/ y- [; ~, H6 z) e$ z1 H1 ]Mythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。% }! a$ k- O9 o) V- L
: Z8 @& ?! t" c# D& w; W& N
这是规模效应。 z, O: G$ g, K( E& r9 M/ ?
) C, v |- U6 ~6 o* Y8 Z2 }
就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。; q, I( |' h& ^' a
) x6 B2 G5 ]2 F9 \
这个规模,是人类团队根本无法覆盖的。4 k) K% k, z# r: p8 u5 l
9 F5 @ \" [* D$ r9 n& [+ s
Glasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。2 m. o& A9 H7 z2 \/ n* m
$ c$ J4 }; }2 I+ j" U3 D k
什么意思?
% {( X1 Z ]: s# \! q0 U( T
( @% z" y3 e! F4 |) E9 l3 c7 p现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。
3 R" A) P2 E5 l3 o
% N; M2 ?$ ?; M. z类似现在的ISO认证,但针对的是代码安全。
0 s3 u7 ^" C9 ~# z$ a: V" J! h1 p! N8 J" ~
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。% J; a+ X0 j" V6 Q2 w" O! O
. p7 Z5 ?) t; x1 C: s, i: `
这不是不可能的。$ v. J+ {" j* d
; k4 i6 a1 @% I/ }8 b; _当然,路还很长。现在还只是第一步。但方向是对的。2 A8 Q1 D" h# x) S9 a
2 g9 _6 M' M3 M( k" g9 p好了,写了这么多,让我最后说几句掏心窝的话。2 {' [ ]* \, O+ ~3 y- }! t: F
' U3 \( f4 g2 {! h L% M4 c- P我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。
. e1 h8 f' }# P8 E1 ]
# X$ K" \* a+ ?, _0 m7 o兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。( c [6 s& w8 h. o2 e
& \9 h% k* [: y1 k这次不一样。这次是AI在帮我们发现自己的脆弱点。
6 N' A7 C9 y7 f, L! u* Q6 R7 L# ^/ i- N& B4 r/ `! f
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。* \+ i/ ]! H" Q7 s
/ d" E- l( u- `4 y# y& B
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。
6 \- o0 w3 T/ o8 c! ~4 n1 ~5 ]8 g/ T; y3 I2 ^
我怕的是什么呢?- ~" `( q* V" u
- l3 V7 R# A5 Z8 t; [
我怕的是,这个工具,只有大公司用得起。
* c8 I: h2 w. E
# L# R3 E3 M, x: d7 `! x5 mAWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
& a# ?. V8 Y" W" i( n' r( v. G& c7 B' n
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?1 o* g& L% T* Z b( L! o
_: p7 {8 a5 Y1 i; l7 ~- A1 B
这些问题,现在还没有答案。
5 T( V+ A- U" r1 p; a4 j- o( W4 u9 W# o! E' b1 O G- C& ^
但有一点我特别想强调。
$ @6 q, A: O( c" ]$ t a
$ j/ H2 G) }2 sGlasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。
2 f6 l( z" f0 _ \# `( X" ? R7 x! m& V+ f) e
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。* d6 s7 Y$ ?4 ~2 ?
. a0 `% L/ I( j9 n
AI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。2 \$ i; x" u& C' c$ f
% B# y1 K' M7 k9 q$ g \
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。* R3 E) ~: `. T4 `
5 U6 k% j5 T. ]8 m e( l5 U8 m这一天什么时候来?我不知道。可能5年,可能10年。
l1 O( u( i* O) S( H/ X" w) e& Z7 i! `, f( W
但Glasswing,让我第一次觉得,这件事不是痴人说梦了。$ H1 O5 _6 j& i1 z$ z8 b
|
评分
-
查看全部评分
|