TA的每日心情 | 开心 2020-4-8 10:45 |
|---|
签到天数: 227 天 [LV.7]分神
|
玻璃之翼降临——Glasswing计划与Claude的Mythos Preview( G3 ]; y8 f) @# s! e
) l/ K0 U x. P0 {
% v& C+ N% o+ v一个预览版的AI大模型刚刚挖出了一个尘封27年的漏洞,然后11家科技巨头都坐不住了……
9 X$ j# P) t+ G$ U `, c/ P/ K8 R; z5 W, M4 w( v
故事是这样的。- X: Z4 w2 U1 Z. G7 y
4 b+ N6 n2 B6 j- `
我今天看到这个新闻,看完之后愣了好几秒。7 w6 K! `5 Q( f7 Q6 Y
7 k& W4 K% F3 a& {
一家叫OpenBSD的公司——做操作系统的,算是安全领域的老前辈——他们有一个漏洞,在代码里躺了整整27年。1998年写进去的,没人发现。
% W) j% D# Z1 i: q( j
. |4 A' ?$ Q' E' m+ A结果被一个AI模型给挖出来了。
' d! p6 c3 J* \
, m- Y& w" _0 Y( K这肯定不是那种"我们用AI扫了一下代码库发现了问题"的挖出来。而是那种"这个漏洞藏在最核心的地方,所有传统工具都扫过5百万次,一次都没报过警"的条件下挖出来。
5 @& i- x2 _4 ?" S
' ]* c) R$ f2 G' w9 Y! y4 T4 @6 m然后,这个AI模型,顺手还把FFmpeg里一个16年的漏洞也给挖了。
9 g2 b: T6 j2 X H/ \ l) G2 D! }* g; p/ N/ [7 S+ W
FFmpeg,音视频处理领域最最最核心的基础设施。全世界的视频播放器、浏览器、直播平台,有几个不是建立在FFmpeg之上的?这个漏洞在里面藏了16年。5百万次自动化测试,没一次报过警。
2 H7 i0 ~- d9 G( q7 ]! i- N! c
8 |3 d7 `# D3 u+ z7 `然后呢?
. [6 v6 T( n: V# g9 |+ l: l- }7 m6 t P! W- `4 n x
然后,11家全球最大的科技公司——Google、Microsoft、Apple、NVIDIA、CrowdStrike、JPMorganChase、Google等等——坐下来,说了一句话:我们一起出钱,让这个AI模型,能被全世界的安全研究员用上。$ D' ]4 o- n& V. a' G
% ]) F) G Y- G, Y$ Y
这个项目,叫Glasswing。) Y4 V! q7 k; e L
; `8 |# j, ?9 s# @$ L. N5 m: K, {
glasswing L7 j6 o C% h- g; ^: k
( o( C( q* e8 g
/ a7 y( L4 X- ]* Q先说清楚Glasswing是什么。
# \/ R; }# v2 c1 n' }7 ~5 x0 d# L7 j9 _$ L! b/ o# i
简单说,它是一个AI安全联盟。发起方是Anthropic,加入方是一堆哪怕是不关注技术领域也叫得出名字的科技巨头。它的核心,是一个叫Claude Mythos Preview的模型——注意是Preview(预览版),就是还没正式发布的那个版本——专门训练来挖漏洞的。
. i0 m/ x* Y& j* y( I/ Q6 ]
/ O T& o6 z/ k1 H有多强呢?: `2 @. n, q4 n
0 S1 X9 A& J3 k
CyberGym基准测试,83.1%。作为对比,Claude Opus 4.6,得分是66.6%。不是Claude Opus 4.5,是Claude Opus 4.6,Anthropic目前最强模型。
; \1 Y: q1 s2 W. M U
# |7 R6 V7 @; r5 T- iSWE-bench Verified,93.9%。还是SWE-bench Verified,不是那个容易一点的版本。Claude Opus 4.6是80.8%。
* U) Y s6 K. b) F3 I- K, \; W# B* i3 Z r7 l
差了13个百分点。! p# h8 k% s7 u* ]' z* R
) [! L0 M; M7 {2 p" v, P+ _6 G你说这13个百分点意味着什么?3 \0 X5 ~8 |( W) `% J2 n4 d8 e- _
R! f( a* J3 {# X- x意味着,传统扫描工具漏掉的那些最刁钻的漏洞——那些藏在层层调用关系里、藏在异常分支里、藏在并发边界条件里的漏洞——Mythos Preview能找到。
. x$ }2 [" C5 }4 D% C: Y/ r2 F8 K8 `+ a; \8 a& { |
意味着,27年的OpenBSD,16年的FFmpeg,以后可能不会再有了。
" V1 [1 t4 ] ^- F7 S' H3 r# s
: ]( q2 U; s) B. V; K" o- Q或者说,这种级别的漏洞发现速度,会比以前快几个数量级。' D8 W" l4 {: R" _
* N6 m: ]% F6 @3 U6 t" B说到这个OpenBSD的漏洞,我必须展开讲一下,因为这个例子太有意思了。( ?8 u' N4 o+ [
- R, N3 [! s, J% g
OpenBSD是个什么存在?/ c* q# D6 X$ b' V5 M' ?( R
8 a% o" g8 v( y& C' B1 K
它是BSD操作系统的一个分支,最核心的设计哲学就是安全。代码审计之严格,在整个开源社区都是有名的。很多安全研究员的信仰级操作系统。
3 ~ p) Z" {+ m0 w4 a! _' u# Y
: K. d4 Z. C6 d q" ]- U! I这样的项目,代码审计了多少年了?二十多年。
0 ^& \' M) a. W7 `7 |7 c! {8 G
! A7 L+ d6 `% e1 j0 f6 T然后,一个漏洞,在里面躺了27年。; H9 }( b; j; c8 E
* b8 @4 V8 u0 V6 U" V
这说明什么?
9 X* u/ l" G( e0 h8 V# n
1 {1 P; K4 l/ g9 z C$ m% y( I不是OpenBSD的人不行,是传统的审计方式有盲区。任何人工审计,只要时间足够长、人足够累、代码足够复杂,就一定会有漏洞漏过去。这是人性的边界,不是能力的边界。! @( p8 F2 Y& g8 C ~
# ]) |0 o/ R% o+ [; h
但AI不一样。AI不会累。AI不会因为审了三个月之后注意力下降。AI可以在几个小时之内,把整个代码库的所有调用路径、所有边界条件全部穷举一遍。
0 s% ]2 T0 z; n6 ?& z5 C, T
% _; V; ^/ ]3 l. D ]+ l5 A& u N# cMythos Preview发现的那个OpenBSD漏洞,是一个本地权限提升漏洞。攻击者如果已经拿到了一点点访问权限,可以利用这个漏洞进一步提升到root权限。
% t' v4 Y8 X& k- g- S2 I# {3 P' a4 \. K7 h3 \- _# x
这种漏洞可怕在哪?
0 u3 \( W, u' ]( w& J0 f$ B- D1 ^& W1 C- l) f
它不显眼。它不是那种"输入框里填个单引号就弹shell"的漏洞。它需要你对系统有相当深的理解,才能构造出触发条件。
3 D& n4 f3 B8 S" C y6 k0 C$ x" X) X' Z
传统扫描工具扫不出来,是因为它的payload模式不在规则库里。AI不一样,AI学的是语义理解,它不是匹配特征,它是理解代码在"想什么"。
+ z7 m$ I) H2 e. e1 }" U* l7 M1 E9 x' d D, A6 b
FFmpeg那个例子更让我震撼。
/ R: T" t. S: [/ ?4 f$ W& G* l) _- z7 b
16年。6 {1 l) u8 x& X& H
" n6 y3 B! _, v( ?. b1 ~/ BFFmpeg上一次发现这种级别的漏洞是什么时候?2009年。3 x k& ?8 \# V0 w7 n+ J) [
' n4 f7 I! W' c6 F+ B16年都没有人发现。然后Mythos Preview扫了一下,找到了。: |: E( t- Y$ R. R% W) C% x
' L0 p. K* q x: e8 A
注意这个"扫了一下"的背景。SWE-bench测试集里,有大量是真实世界里的bug修复历史。FFmpeg这个bug在历史上真实存在过,是某次修复的时候被记录下来的。这意味着,Mythos Preview不仅能做代码审计,它能做的是:从海量代码里,识别出"这个写法有问题,即使目前还没有人报告过"。
- U; s6 b3 x! j B: R% ]! z$ x J# V/ e8 V
这是主动防御,不是被动响应。* l9 k6 D* f$ y( V
7 U* f) Q7 _: @ e* n0 |% K% G
传统安全的方式是:出了事 → 分析样本 → 提取特征 → 更新规则库 → 下次能识别。" t/ F2 u; D. m* r! j/ N8 K+ ^5 h. h
- `0 p9 K' B7 ~5 VAI安全的方式是:不需要样本。直接读代码,告诉你这里有个洞。* c w% T F9 v3 k7 n
" j, Y% u8 Q8 f' K* h7 D. P这两者之间的差距,大概就是"等贼来了再装防盗门"和"在盖楼的时候看着图纸就告诉你这堵墙扛不住地震"的差距。+ p. M" ^! _) o: P
Y6 W6 g5 s- }; }6 P1 J* w {现在说说大家最关心的问题:谁能用到,怎么用,花多少钱。1 H V" @- v: ?& f8 ~4 A6 d* c/ G
' J3 h: G- d+ F5 V. G6 S7 X0 I9 aGlasswing的AI能力,现在跑在三个平台上:Amazon Bedrock、Google Vertex AI、Microsoft Foundry。
6 w; Q" O8 l. j# P& f' i1 i0 R$ P& _$ E; P# y' |1 t0 h
这三个平台,恰好是AWS、Google Cloud、Azure。全球三大云服务商。
. ~9 H Y, A. X, @7 s) y$ a
8 b1 ~7 n+ E, e1 G1 U2 P你在任何一个上面,都能调用Mythos Preview的漏洞检测能力。
0 y u2 w8 Q8 c" W. i
& r1 h- u4 N4 f @1 h8 b0 p价格呢?过了初始的credits之后,每百万token输入25美元,每百万token输出125美元。/ o* F; h5 @! E, b6 @2 [ ^ L
$ @* S8 ?& ~5 P这个价格贵不贵?
' K3 K x4 ^6 g. q' I! d/ i/ Q, Q( c7 }
对比一下就知道了。现在市面上做代码安全扫描的工具,像Snyk、Veracode这一类,商业扫描工具的报价大概是每个开发者每个月几十到几百美元不等。而且它们扫的是规则匹配,不是语义理解。
6 Y2 x% T6 G( D8 j6 S! Q5 B7 T' p
, S/ C# }, `! [0 NMythos Preview能发现那些工具发现不了的漏洞。
, ^+ h, P- q% _6 G3 r: c. X E
) T8 j5 {0 e5 V! M n ~这不是贵不贵的问题了,这是"有没有意识到你以前省的那些钱其实在交更多的学费"的问题。
4 q) V" J$ F3 V, O4 R1 Q' K8 S, b# P) ^6 l$ n* X
另外,Anthropic自己掏了1个亿美元的使用额度,分给联盟成员和开源社区。还额外捐了400万,250万给Alpha-Omega/OpenSSF,150万给Apache软件基金会。
, z, B% J' B) W9 ^3 l) s0 a) X0 h$ r( f) Y4 O
这些钱是用来干什么的?让那些没有商业利益驱动的开源项目,也能用上最好的漏洞检测能力。 |' ?' H5 L8 w2 {' v- B' J0 l- y
) i5 ?6 w( s) T
FFmpeg就是开源的。OpenBSD也是开源的。这些项目没人给他们钱做安全审计,但他们的代码,运行在全球几十亿台设备上。
. }$ M: J R1 [3 u! j5 n% j! b3 F1 k! C3 h% H4 |, O( |+ \
还有一个细节,我觉得特别有意思。
k" \% s" j& F' @! J6 ~, H- A0 C. o
6 X4 G$ ]% o+ Q1 F3 @. p漏洞发现之后,公开披露的时间是90天。
& G: N, \/ y" c3 k% a; r/ @( T. U- |$ G4 y1 U5 T# `. A. Z, I
90天是什么概念?% a) w( W# x0 g1 Q
% h; o( i' C, h行业标准的漏洞披露窗口是90天。这个时间足够让厂商评估漏洞、制定修复方案、推送更新,但又不至于让漏洞在黑市上流通太久。
: z7 m2 Z6 p$ R; Y: e$ \. f1 J& F, u d6 H0 [- c
但这里有一个问题:90天是针对"有人发现了漏洞"这个前提来说的。5 ]6 W; X* ^% i" L$ p/ e3 N/ I
2 X( I3 j$ C6 y4 [: v* G" f5 aMythos Preview现在能以前所未有的速度挖出漏洞。它一天挖出来的漏洞,可能比以前整个安全社区一个月挖的还多。
% E5 A9 q& Z* O
i' L% x3 u4 p3 |+ f8 ? W7 q9 b这意味着,漏洞披露的节奏,整个就变了。
& F- i. W/ a" q& d9 V! P V
) E9 w) h& E' K$ Q. W9 @8 j7 e& l以前是"挖到一个,披露一个"。现在是"AI在持续不断地挖,每90天披露一批"。
( Q) X1 |4 u2 l: H8 d
5 c; t9 ]) J5 H$ T7 n0 y! x厂商的补丁开发速度,能不能跟上AI的发现速度?- p* b9 Z) \' w5 f+ z- l& Y, A
( }- E- ~! U" M' w* J' P2 b; t2 K这个,我说实话,不知道。但我觉得,这是整个Glasswing项目最值得观察的地方之一。
7 }" C3 q) m0 x# }
6 ?9 ^& A b* V T& B4 E写到这儿,我突然想到了一个更大的问题。- J: Q$ C0 C) v$ { j$ H( t
3 G- D! ~; N6 j- N3 C8 g
Glasswing这个名字,本身就是一只蝴蝶的名字。玻璃翼蝴蝶。它的翅膀是透明的,像玻璃一样。
$ L" ]- o' r2 J( q; V5 P) h+ Z2 G4 d
透明,意味着隐藏的东西变可见了。
1 M4 w- ^ Z0 @4 {2 R8 \( R" w! k+ u: G
一只蝴蝶的翅膀是透明的,它就隐藏不了任何东西了。它在哪里,飞向哪里,所有捕食者都看得清清楚楚。" d5 [8 Y1 `. z$ }
( Z K7 l& B6 R9 s+ m+ ]; f
这个意象,放在漏洞挖掘上,太精准了。. C8 d2 u9 J5 i2 w
2 Q3 h) D, {: E, Z3 i/ G
代码里那些隐藏了几十年都没人发现的漏洞,在AI的"眼睛"之下,突然就透明了。
4 `% b/ s! s' a" [8 E3 Z9 v, v1 [, ]
以前我们说"security through obscurity"——通过隐藏来保证安全。你的代码不公开,漏洞藏在暗处,攻击者找不到。
% A9 Z4 Q: @6 _/ j, Y& }
5 [" f3 s, P8 H, H7 w0 G) T2 R但现在,只要代码存在,AI就能读。Mythos Preview不需要你的代码是开源的,它只需要能接触到代码——不管是源码、还是编译后的二进制、还是运行时的行为轨迹。
+ u, ^5 z0 X4 _; F4 y7 G+ U
$ n" ~& h. `: _: S0 W代码越来越难藏了。或者说,代码里的漏洞越来越难藏了。
x4 G$ Q# n5 K! Z, E7 D$ n- M; s/ ? [& m% J: Q
这是一件好事吗?8 S9 V) i7 c# T# q+ }2 i
1 J- {3 L6 P% F8 x" ~( G& j0 |9 S7 Q
我觉得,短期内,这是一件非常非常好的事。" X: C# A7 U4 t. ~* L" Z
9 r# S# S4 N" t) q& H4 W) @5 b
全球互联网基础设施里,有多少代码是10年、20年、30年前写的?没人敢审计、没人敢动、出了问题就打补丁接着跑的,有多少?
* [. X0 Q. f9 R; I& {5 {; L/ d. `& }; D0 e5 I6 w6 n- Y
这些代码就像一颗颗定时炸弹,埋在整个数字世界的基础里。
( U% M: D' N" T8 o! J" R# [
) [; ~) D |1 b1 \, Y& UAI能做的是,帮我们把这些炸弹找出来,一颗一颗地拆除。- x! S7 x& u1 q8 Z
6 s, Q( J) k$ M" I4 @6 j
但长期呢?, ]3 Z, G$ H. [( i6 [2 p
9 A- O6 y* c' g
当所有可见的漏洞都被AI清除干净之后,剩下的,是什么样的世界?
& l: v) m, v& X8 K9 N2 z5 e1 o& i, w. K- U% G2 j
是代码质量极高、安全性极强的一个世界?还是所有攻击者也在用同样的AI,攻击的速度和防守的速度同步提升的一个世界?3 S6 U; p0 Y7 a2 J- D* O
4 X9 s$ {- b4 D: a7 Y我也不知道。0 p+ ^5 C0 a8 Z4 o1 a
L; s/ U# t% a; B- M- G7 g/ Q
但有一件事我特别想强调。2 F1 d$ A) s9 n$ f
" E, T/ [; K& h' d% c& T
这次Glasswing联盟里,有JPMorganChase,有CrowdStrike,有Palo Alto Networks。这些公司,是真正的安全重度用户。3 z6 R3 O m6 j! w. V6 l B: l0 e# e
2 l3 r" H1 e% G3 n6 F* Y
他们自己有能力挖漏洞吗?当然有。JPMorganChase的安全团队在全球排前列。CrowdStrike就是做安全的。 l' z5 f# I/ p" v% n0 z# K
" l! x" _9 d$ _& m' _
他们为什么还要加入这个联盟,用别人的AI?
9 H9 Y8 g, `& @$ s& i& h) f2 m& H; i
* V, m; ] p5 e7 t- @我大胆猜测一下:因为挖漏洞这件事,规模太大了。; u5 Q' G* ~- i& S( l* ^- Y" X9 ~
* s6 @2 J9 M0 A2 m2 V8 j全球代码量太大了。每一家公司,即使安全团队再强,也只能覆盖自己的代码库。但外面的供应链、开源组件、合作伙伴的代码,你根本管不到。
- N& K+ D3 O/ u9 p, N* d
: r, H+ u/ l) e/ l `: a) YMythos Preview的价值,不在于它比你的安全团队强。而在于它能同时扫所有地方。
# _ Q, B5 L& B5 i# E3 c2 u9 x1 T7 a) v$ q& f' q5 L5 S( H
这是规模效应。* d [! m3 I! P2 Q
% b" x n" H* i% ^就像打补丁。手工打补丁,你只能打你知道的那些机器。自动化打补丁,你能打你所有的机器。AI扫漏洞,相当于在每一个代码提交的时候,就自动扫一遍。
. A+ ]* n9 s2 v% [
9 q4 a, S5 D) a. x. t! G( o" ~这个规模,是人类团队根本无法覆盖的。
2 N6 g5 P9 X; l0 U- G7 d
3 R; n; S# L$ {" n# I6 {% s4 m% Y! vGlasswing这个项目,还有可能往一个方向发展——成为一个独立的第三方机构。, O, f. x+ V B8 L+ K1 N
& m* _% x2 G5 U, ~/ X什么意思?8 c. c- g5 [! G, v
8 }8 |# L& V' @现在它还是Anthropic牵头、11家公司参与的联盟。但未来,它可能变成一个真正独立于任何商业公司的安全机构。它的评估结果,有公信力;它的漏洞报告,有权威性;它给出的安全评级,整个行业认。9 h5 G, P* x. v0 v* Q# Q
3 N( E) E: v: ~: J) e1 l" ?类似现在的ISO认证,但针对的是代码安全。
" F+ y `& N8 I, L0 R3 M* y$ ?% r2 s s1 P
想想这个画面。未来的软件采购,合同里可能不只要写"符合SOC2",还要写"通过Glasswing认证,漏洞数为0"。7 @3 y2 G* n" d: h* J+ ^
) t& l8 W+ h0 {这不是不可能的。
/ D! m/ q9 Z' ]/ k9 F- T1 T# ]
- U9 Y. F& [+ y. Y当然,路还很长。现在还只是第一步。但方向是对的。! K9 t( ?1 f( r% K! `: r
. f+ j6 s- M& @好了,写了这么多,让我最后说几句掏心窝的话。
9 z# X3 R+ r1 {' E
, W1 B+ j% ^- e+ c; O. k我这次看到Glasswing的新闻,第一个反应是兴奋,第二个反应是有点怕。4 A4 k0 v4 T7 a7 E% c
' b" l. W0 \' O- W兴奋是因为,我真的觉得,这是AI在安全领域做的最有价值的一件事。以前我们聊AI安全,大家想的都是"AI能不能被攻击"——对抗样本、数据投毒、模型劫持。这些很重要,但离普通开发者很远。) q' Z- J! N% _% N6 Z9 w: N" R
`. g; L0 n5 @, G这次不一样。这次是AI在帮我们发现自己的脆弱点。
& p8 f! w8 [* n2 f( p/ f& a5 F. _% G7 Z9 [$ y
这种脆弱点,我们以前不知道,或者知道但没有能力发现。AI把它们挖出来,摆在阳光下,告诉你这里需要修。" o2 y7 F& i8 ^+ {4 F+ M
5 o+ _0 ^% q7 y1 ?
这是AI在补人类的短板。不是在超越人类,是在帮助人类补上人类自己够不到的地方。
+ F+ U% b/ _1 w3 C# R
$ r) F4 l, v8 V- J我怕的是什么呢?
' J$ x; j$ p% N( L
! u0 F* m1 f/ F; G我怕的是,这个工具,只有大公司用得起。( R$ y9 E) d, j$ ]6 H8 I- w# c
% A9 \. f4 M' G+ k$ u9 R, a
AWS、Google、Microsoft,Bedrock、Vertex AI、Foundry。这些平台,都是商业平台。Cloudflare这种中型公司,可能用起来没问题。但那些真正需要安全检测的——初创公司、开源项目、十几人的小团队——他们能用到吗?
2 U' `& S% C1 U" b5 T( R$ [* |% ]3 G6 ^" ~
Anthropic捐的那1亿美元额度够用多久?分到全世界的开源项目上,每个项目能分到多少?
$ [* e+ |1 r1 g1 i- M9 f: L/ ]7 U6 `
这些问题,现在还没有答案。
" [+ T/ T! B. g, ]- v. M* G7 F; v5 A0 \2 P1 u1 E$ d
但有一点我特别想强调。: N( F$ v* C `- C% k
$ [( j: q; L+ f. w+ t& D: j
Glasswing这个项目,让安全这件事,第一次真正有了一种"基础设施"的可能性。
+ U" I5 i, R( R4 Z1 _- @ d0 Y6 _& P0 D9 x, c4 E* r- |6 w! x
以前的安全,是奢侈品。你要么雇得起安全团队,要么买得起企业级扫描工具,要么你就裸奔。
* k/ V6 D3 q; C3 o7 N0 _
! l; x) i: k8 v1 k/ a4 Y. q- HAI改变了这个等式。Mythos Preview能发现那些企业级工具发现不了的漏洞,但它的调用成本,并没有比那些工具贵多少。
* r* F& s' l4 Y- V# i, |( e* P+ R$ V v' Z2 P4 |' y% o" ?! f& X
当漏洞挖掘的成本持续下降,当AI扫描变成每一个代码仓库的标配,我们或许真的会迎来一个更安全的互联网。
) J( c: K" B* W0 N: z* [1 Z: o9 S5 {# G, ~8 G- X$ z
这一天什么时候来?我不知道。可能5年,可能10年。
0 T! F% V9 g0 R4 u6 z6 ~) U" n0 n7 X) }' r4 @. _5 t& q
但Glasswing,让我第一次觉得,这件事不是痴人说梦了。; D! T) z2 m4 q) u$ p/ L! J, B3 c
|
评分
-
查看全部评分
|