TA的每日心情 | 开心 2020-4-8 10:45 |
---|
签到天数: 227 天 [LV.7]分神
|
. E1 y) _; U" k1 v2 x3 H/ s# q
你是否感觉到,人工智能(AI)的发展正在以一种前所未有的速度改变着我们的世界?甚至,那个曾经只存在于科幻小说中的“奇点”——通用人工智能(AGI)——似乎也并非遥不可及。2025年3月4日,一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话,为我们理解这个正在加速到来的未来,提供了一个至关重要的视角。# @ M; a* E6 y0 ~
+ Y9 c, f& G# t: l' ~7 [0 s( q对话的一方,是知名主持人 Ezra Klein;另一方,则是 Ben Buchanan,一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心(CSET)的研究员,更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的 AI 政策制定。更重要的是,他亲眼见证了 AI 技术的飞速进步,尤其是来自中国 AI 力量的崛起。7 ]) N1 }& ~# R) ]% Z' r
8 |8 C7 F, D. I Q# G# Z
在这场长达数小时的深度对话中,Buchanan 抛出了一个又一个重磅观点:AGI 比我们想象的更近;它将对国家安全、网络安全、就业市场等领域产生颠覆性影响;而以 DeepSeek 为代表的中国 AI 公司的崛起,更是为这场全球 AI 竞赛增添了新的变数。
- m8 I1 m5 p+ q+ X+ r* @9 V
" N4 m: @) U, i" n" o" p9 zDeepSeek,这家来自中国的 AI 公司,在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司,更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”,其算法效率令人瞩目。但与此同时,他也毫不掩饰对中国 AI 发展的担忧,认为美国必须采取措施,包括芯片出口管制,来确保自己在 AGI 领域的领先地位。
% ? |& g ~! Z" U/ t' K L% x# g: `8 j; g" D
' y. H4 J; K- J. o4 A
这场对话,就像一面镜子,折射出 AGI 时代复杂的图景:技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考:面对 AGI 这个“潘多拉魔盒”,我们准备好了吗?. W5 l2 _8 o. ~' Z# f' c; u" t
$ ?7 b6 H* i( A( q# V谁是 Ben Buchanan?
/ _7 d, I* u$ U8 x, I& k在深入对话内容之前,我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者,他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心(CSET)担任研究员,要知道,CSET 可是美国顶尖的智库之一,专门研究那些可能颠覆国家安全的新兴技术。更重要的是,Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的人工智能政策制定。
5 ]8 N' A9 i7 |9 \) a
& \# |5 D; p0 a% Q# Y Z3 B$ I除了这些光鲜的头衔,Buchanan 还写过一本名为《人工智能的黑客帝国:权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态,以及人工智能在其中扮演的关键角色。可以说,Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域,这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。
" q2 t* S; C/ u/ U- a4 ~
! v$ n! M( U) p0 |% W: ^正是 Buchanan 这种跨越学术与政策的背景,让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨,又有政策制定者的务实。因此,他对 AGI 的判断和预测,绝不是空穴来风,而是有着深厚的理论和实践基础的。/ f: B% T0 H# a* v
5 W; k3 N! T& ?3 k2 Q( c( MAGI:不是“狼来了”,而是真的来了!6 P- h8 r8 U( l& `
访谈一开始,Buchanan 就抛出了一个惊人的观点:AGI 就要来了,而且比大多数人想象的要快得多!他认为,那些“极其强大的 AI 系统”很可能在未来两三年内就会出现,甚至有可能在特朗普总统的第二个任期内(如果他当选的话)就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”(AGI)这个有点科幻色彩的术语,但他认为这些系统将具备 AGI 的许多关键特征,也就是说,它们将在各种各样的认知任务上达到甚至超越人类水平。
; ]0 P$ O j3 c8 U4 ~- |3 I
! F# r, D9 F2 s. D听到这里,你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的,他有自己的“情报来源”:一是来自 AI 实验室和政府内部人士的报告,这些人可是亲眼见证了 AI 技术的飞速进步;二是 AI 产品的快速迭代,像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力;三是 Buchanan 本人在白宫工作期间观察到的趋势,这些趋势都指向一个明确的方向:AGI 正在加速到来。3 Q, h& C4 B' C6 w) K
& \/ W A0 o3 L5 |" bBuchanan 反复强调,AGI 的到来绝不是“狼来了”的故事,而是真真切切、迫在眉睫的现实。他认为,许多人,尤其是政策制定者,仍然低估了 AGI 的发展速度和潜在影响,这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来,并为此做好充分准备,否则后果不堪设想。
1 [9 n+ f; Y( \9 ~3 }
9 P/ ] ^* q, J+ A国家安全的“新战场”:AGI 时代的战略博弈
; H" [; i A- S4 a6 b在 Buchanan 看来,AGI 不仅仅是一个技术问题,更是一个关乎国家安全的战略问题。他反复强调,美国必须在 AGI 领域保持领先地位,这对于维护美国的国家安全至关重要。他认为,AGI 将对未来的军事、情报、经济等领域产生深远影响,哪个国家掌握了 AGI,就将在这些领域拥有巨大的优势,甚至可能改写全球力量对比。& i9 o5 d1 c% l' D7 q3 e( L Q
/ h- N5 W5 ]" o A) a5 t/ S
Buchanan 特别提到了中国,认为中国是美国在 AGI 领域的主要竞争对手。他担心,如果中国率先实现 AGI,可能会在网络战、情报分析等关键领域获得不对称优势,从而对美国构成战略威胁。他举例说,AGI 可以极大地提升网络攻击和防御的能力,如果中国在这方面取得领先,美国的关键基础设施和国家安全将面临前所未有的挑战。
# C2 P% P$ C3 z {! g% Z8 o0 N- i* o& Y" g2 Y
为了应对这种潜在威胁,Buchanan 支持美国政府采取强硬措施,包括出口管制,以限制中国在 AGI 领域的发展。他承认,这可能会加剧两国之间的紧张关系,但这就像当年美国为了赢得太空竞赛而采取的措施一样,是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术,认为美国必须像当年赢得太空竞赛一样,赢得 AGI 的竞赛。
! L$ i" D$ T7 _' e1 c5 B0 D
+ E7 o1 y. A) bBuchanan 的观点反映了美国政府的一种主流看法,即 AGI 是一种具有战略意义的技术,必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈,而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量,更是关乎未来世界秩序的博弈。
2 d$ x% Y# i! X% h" U( [- A! S- D
# ]( ~1 H1 r0 q M网络安全的“潘多拉魔盒”:AGI 时代的攻防困境, A$ K" Y @) ~/ L# q0 X
AGI 的发展将对网络安全产生深远影响,这就像打开了一个“潘多拉魔盒”,既带来了机遇,也带来了前所未有的挑战。Buchanan 指出,AGI 可以用于提升网络攻击和防御的能力,这使得网络安全领域的攻防对抗变得更加复杂和激烈。
) ?& I/ W0 u8 @- n+ z8 E1 k. s
/ I, E2 b, r3 o, }, }8 e一方面,AGI 可以帮助攻击者更快、更有效地发现软件漏洞,并利用这些漏洞发动攻击。想象一下,一个由 AGI 驱动的黑客,可以不知疲倦地扫描全球的网络,寻找任何可能的漏洞,这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据,从中识别出有价值的情报,从而提升网络间谍活动的能力。Buchanan 担心,在过渡时期,由于许多旧系统缺乏 AI 防御能力,它们将更容易受到网络攻击。
4 J9 d, R6 ]: G& @( |6 ~- G
+ F4 C+ z( X. {) @6 ?& k4 s5 G; A另一方面,AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码,减少软件漏洞的数量。AGI 还可以用于实时监测网络流量,及时发现并阻止网络攻击。Buchanan 提到,拜登政府曾推动国防高级研究计划局(DARPA)开展“AI 网络挑战赛”,旨在测试 AI 在网络攻防中的能力。" v/ E3 {9 ^; J: y/ T+ W
- d" h2 O- @ e" H; u2 B8 v% k9 {然而,Buchanan 也特别提到了 AI 实验室本身的安全漏洞,他认为这些实验室可能成为国家间谍活动的目标。这不难理解,这些实验室掌握着最先进的 AI 模型和技术,其价值不言而喻。他认为,保护 AI 实验室的安全,与保护国家关键基础设施同等重要。
4 f; g1 e. w# M& w$ z5 P' P
7 A& M) {$ ?9 C8 t: n& A# o& CAGI 在网络安全领域的应用,就像一把双刃剑,既可以用于防御,也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈,也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全,将不仅仅是人与人之间的对抗,更是 AI 与 AI 之间的较量。
0 e- P3 C! C% I4 Z9 r5 Y. ?* N* M" V$ W" s# S0 @# q! C' ^
就业市场的“大地震”:AGI 时代的社会冲击
; `* ~5 H3 \5 _* {3 \. V# L5 HAGI 不仅将对国家安全和网络安全产生深远影响,还将对劳动力市场和社会结构带来巨大的冲击,甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为,AGI 将对劳动力市场产生重大影响,许多认知工作岗位可能被取代或部分取代。1 T0 j$ L9 }8 s B# X5 o
" _. j4 _ q8 H, M* j ]他们特别提到了那些从事重复性、规则性工作的岗位,比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化,从而导致大量失业或就业结构调整。试想一下,一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI,将会对多少人的饭碗造成威胁?Buchanan 举例说,许多正在大学学习市场营销专业的学生,未来可能会面临严峻的就业形势,因为 AGI 已经可以胜任许多市场营销工作。
5 E7 n; r+ O( |
+ m! d$ p" _: MBuchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为,政府需要为此做好充分准备,但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案,如加强职业培训、提供基本收入保障等,但都承认这些方案存在局限性,难以完全解决 AGI 带来的就业问题。
* U* y2 x# V5 Z' Q& ]" k5 {) }( I3 r# j! F! e1 o- S
AGI 对劳动力市场的影响,不仅仅是一个经济问题,更是一个社会问题。大规模失业可能导致社会不稳定,加剧社会不平等。因此,如何应对 AGI 带来的就业冲击,是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题,更是关乎社会公平正义的重大议题。
, U. ]9 V$ q2 x4 k4 n2 P4 j$ A w0 U" B
: L, {* T4 p# Y J. N3 l: d0 |; j! V美国政府的“两难境地”:政策的困境与挑战
7 i, P) D- {, Q% q V面对 AGI 带来的种种挑战,美国政府的应对策略和政策选择至关重要,但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力,并对特朗普政府的政策方向表达了担忧。; m B* T. c1 {5 g
# J r: F: B) C9 W; ^拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如,拜登签署了一项关于人工智能基础设施的行政命令,旨在加速能源和数据中心的建设,以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所,旨在加强政府与 AI 企业之间的合作,共同应对 AGI 的安全风险。此外,拜登政府还采取了出口管制措施,限制向中国出口先进的 AI 芯片,以减缓中国在 AGI 领域的发展速度。# ?1 ^; E( w6 G5 r
}# _+ \- _- i! D" ~9 w9 @2 L; z然而,Buchanan 也承认,拜登政府的这些措施只是初步的,而且存在局限性。他认为,政府的行动速度往往滞后于技术的发展,而且在制定具体政策方面存在困难。他特别提到了开放权重模型(类似于开源模型)的问题,认为这些模型可能被滥用于恶意目的,但政府尚未找到有效的监管方法。
( c7 ?# k8 L, ^0 L9 O" g
- {+ S8 V5 R; F4 e: |0 `# {Buchanan 对特朗普政府的政策方向表示担忧。他认为,特朗普政府更倾向于“加速主义”,即强调 AGI 的发展速度和机遇,而忽视其潜在风险。他担心,这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕,从而带来不可预测的后果。2 Q5 C8 C# q. i6 H; P# n4 e2 q
! W: l3 B/ D; ^" a
Buchanan 强调,政府需要在 AGI 的发展中平衡安全与机遇。他认为,适当的安全措施实际上可以促进技术的应用和发展,就像铁路发展早期的安全标准一样。然而,如何把握监管的尺度,避免过度监管扼杀创新,是一个难题。这就像走钢丝,既要保证安全,又要追求速度,稍有不慎,就可能跌入深渊。
) ]# ?6 B5 q/ m, ]4 X3 t) B5 D8 K
" C% @7 {0 S) I2 R3 Q0 l2 }+ u" C6 jDeepSeek:中国的“挑战者”与美国的“警惕”* t, S7 e( x* _* z& U# G
访谈中,Buchanan 多次提到了中国的 AI 公司 DeepSeek,并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法,体现了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图限制其发展。
1 g& G* f0 f0 m( N1 x7 Q S) C1 F0 X
Buchanan 承认 DeepSeek 的工程师非常“有才华”,并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展,认为这表明中国在 AI 技术方面具有很强的竞争力。. x: m- L4 g- H2 z' Q
8 Q5 O% u0 m/ O B; ]. L8 i: ^
然而,Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为,DeepSeek 仍然受到计算能力的限制,其 CEO 曾表示,公司发展的最大障碍是无法获得先进芯片。他认为,DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析,也没有动摇美国在 AGI 领域的领先地位。# J) n. r2 a: S8 e+ F' X2 D+ i8 q
7 i- R: u; s2 Y' c! ?+ oBuchanan 强调,美国应该继续通过芯片控制来限制中国的发展。他认为,DeepSeek 的出现提醒美国,芯片控制非常重要,中国是 AGI 领域一个值得尊敬的竞争对手,美国不能掉以轻心。
/ e& ?3 |1 V' s
7 |' m% C( x1 c' ~' OBuchanan 不认同 DeepSeek 证明美国 AGI 发展范式(依赖大量计算资源)错误的观点。他认为,美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为,DeepSeek 的技术进步主要来自算法效率的提升,这与美国公司(如 Google、Anthropic、OpenAI)的做法类似。5 I/ R% |! V7 T
1 {+ P/ D) z: @' t: bBuchanan 对 DeepSeek 的看法,反映了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈,这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛,更是一场战略博弈。
# v& i8 |* x p6 h H3 F
& I9 C% W: U! o3 E“开放”与“封闭”的十字路口:AGI 时代的伦理困境
, R4 D" \7 y. d. d' C9 ZAGI 的发展不仅带来了技术和战略上的挑战,还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型(类似于开源模型)的潜在风险表示担忧,这反映了 AGI 时代开放与安全之间的复杂关系。
& Y1 w6 g" b3 i9 x3 V5 ^" e+ H" S* `: e+ ~$ x7 g! i0 X3 O$ v
开放权重模型是指那些将其模型权重公开的模型,类似于开源软件,但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播,但同时,就像一把双刃剑,也可能被恶意行为者滥用。例如,开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。
( {9 _' h7 }+ i
, n; b5 V$ c; a2 K0 N. \Buchanan 认为,需要持续监控开放权重模型的发展,并在必要时采取措施来限制其潜在风险。然而,他也承认,如何监管开放权重模型是一个难题,因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”,一旦打开,就很难再关上。3 V4 O' Z; T, W$ s5 D$ n: `
9 s1 |2 \0 l2 I: w* F, d; c开放权重模型的争议,反映了 AGI 时代的一个核心问题:如何在促进技术创新的同时,确保其安全和负责任地使用?这是一个复杂的权衡,没有简单的答案。我们需要在开放与安全之间找到一个平衡点,但这绝非易事。# t& w1 m: O J7 @- I' [- v
. R4 q; q- Y1 b* h3 B5 c; j- _: }能源的“紧箍咒”:AGI 时代的资源挑战4 V7 y$ a/ w6 H. _: \
AGI 的发展需要消耗大量的能源,这不仅是一个技术问题,也是一个环境和社会问题。Buchanan 认为,美国应该加速能源基础设施的建设,以满足 AGI 发展的需求,并促进清洁能源的发展。
% V K* I& z+ d0 {0 P9 r/ z+ _( K) }4 p$ |, J6 `3 y9 _$ ]( R
他指出,AGI 的训练和运行需要大量的计算资源,而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源,将加剧气候变化和环境污染。因此,他认为,美国应该大力发展清洁能源,如太阳能、风能、地热能等,以满足 AGI 发展的需求,并实现可持续发展。
0 K; X0 u$ ?/ U/ W0 u+ ^
) q6 W2 I! v1 n% W' `6 @Buchanan 的观点表明,AGI 的发展不仅仅是技术问题,还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力,制定全面的战略来应对这些挑战。AGI 的发展,不能以牺牲环境为代价。
( s) P7 ?2 T' g: e" X7 M6 A& [. K- Q3 N. E) `
结语:AGI 时代的机遇与挑战并存8 ^- H1 d( b4 t) `3 h3 {
Ben Buchanan 在《纽约时报》的这篇访谈,就像一面镜子,照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感,也有对 AGI 带来的挑战的深刻担忧。% s, t' q4 R! r. }& i2 t6 z$ g
5 _: c7 J( v% q+ O" ~' z. w N5 e
Buchanan 强调,AGI 的到来可能比我们想象的更快,其影响也将更加深远。他认为,AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备,包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。3 [2 M) I8 e6 l$ R3 @ m
$ q3 T" p, m: Q
Buchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题:
! Y7 q. d; B' o/ ?/ u% M3 [8 V
5 o7 O/ `7 t$ P国家安全与技术竞争: AGI 将如何重塑地缘政治格局?哪个国家将成为 AGI 时代的领导者?5 F7 a) j% C. d2 X2 @$ [
网络安全与攻防对抗: AGI 将如何改变网络安全的格局?如何应对 AGI 带来的网络安全挑战?+ c( |' E0 W( G' j! X) U6 h* ]4 [( E
劳动力市场与社会结构: AGI 将如何影响就业和收入分配?如何应对 AGI 带来的社会冲击?
) b$ I$ K4 `" f: J5 b' }8 x+ \1 X0 d开放与封闭的博弈: 如何在促进技术创新的同时,确保其安全和负责任地使用?) M) ]1 l3 u- k
能源与环境的挑战: 如何满足 AGI 发展的能源需求,并实现可持续发展?6 T7 B' r4 z+ q5 X, G
这些问题没有简单的答案,需要全球合作来应对 AGI 带来的挑战。同时,我们也需要对 AGI 的发展保持警惕,避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战,我们需要以开放的心态、审慎的态度和负责任的行动,来迎接这个充满不确定性的未来。这不仅仅是一场技术革命,更是一场关乎人类未来的深刻变革。3 }- H8 e9 Q, f5 q7 o0 y8 @
6 G! K$ n" K+ u5 }5 A
参考链接: https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html
7 Q3 l% o+ R( ~! |; I* g
. Q9 b5 l; A; k- T% S% X' @* I纽约时报这个链接可能要付费,需要原文的话可以群里喊我,我扔群里。 |
评分
-
查看全部评分
|