TA的每日心情 | 开心 2020-4-8 10:45 |
---|
签到天数: 227 天 [LV.7]分神
|
( _# ^2 u& r$ T9 L1 w1 X& ]3 n
你是否感觉到,人工智能(AI)的发展正在以一种前所未有的速度改变着我们的世界?甚至,那个曾经只存在于科幻小说中的“奇点”——通用人工智能(AGI)——似乎也并非遥不可及。2025年3月4日,一场在《纽约时报》“The Ezra Klein Show”播客上进行的对话,为我们理解这个正在加速到来的未来,提供了一个至关重要的视角。
: c6 N. b3 z. |: h1 [2 w
& u& A- {4 I* p4 K2 V- l对话的一方,是知名主持人 Ezra Klein;另一方,则是 Ben Buchanan,一位兼具深厚学术背景和丰富政府经验的 AI 专家。Buchanan 不仅是乔治城大学安全与新兴技术中心(CSET)的研究员,更曾在2023年担任白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的 AI 政策制定。更重要的是,他亲眼见证了 AI 技术的飞速进步,尤其是来自中国 AI 力量的崛起。
P/ w6 Z4 ]/ B9 g+ ?+ _! c7 ]+ n" ]4 ^, x4 U8 V
在这场长达数小时的深度对话中,Buchanan 抛出了一个又一个重磅观点:AGI 比我们想象的更近;它将对国家安全、网络安全、就业市场等领域产生颠覆性影响;而以 DeepSeek 为代表的中国 AI 公司的崛起,更是为这场全球 AI 竞赛增添了新的变数。
% @0 [ W6 m7 J* A5 G9 j2 N4 }) ~: K0 J0 Y; b) k) r1 ~. G. p* w
DeepSeek,这家来自中国的 AI 公司,在访谈中被 Buchanan 多次提及。它不仅仅是一家普通的公司,更是中国 AI 技术实力快速提升的一个缩影。Buchanan 承认 DeepSeek 的工程师“才华横溢”,其算法效率令人瞩目。但与此同时,他也毫不掩饰对中国 AI 发展的担忧,认为美国必须采取措施,包括芯片出口管制,来确保自己在 AGI 领域的领先地位。) z; \5 Z2 i1 q& i% a' `) L- T5 t! q% F
$ H$ `8 \: R$ u% d; }
5 \0 r G: e& D$ G/ B1 W; y
这场对话,就像一面镜子,折射出 AGI 时代复杂的图景:技术突破的激动人心、地缘政治的紧张博弈、社会变革的潜在风险……它让我们不得不思考:面对 AGI 这个“潘多拉魔盒”,我们准备好了吗?
9 J$ n% b$ r7 Y& T# g6 \& M. f3 n" K. F- g
谁是 Ben Buchanan?/ K: \# \7 o& D0 ?/ `
在深入对话内容之前,我们有必要先了解一下这位“主角”。Ben Buchanan 可不是那种只会纸上谈兵的学者,他可是真正在政策一线摸爬滚打过的实干家。他目前在乔治城大学的安全与新兴技术中心(CSET)担任研究员,要知道,CSET 可是美国顶尖的智库之一,专门研究那些可能颠覆国家安全的新兴技术。更重要的是,Buchanan 在 2023 年还担任过白宫科技与国家安全委员会的人工智能特别顾问,直接参与了拜登政府的人工智能政策制定。
6 L2 J) I2 ^- x1 Q6 a6 ]7 F5 e( @/ O8 o- ]
除了这些光鲜的头衔,Buchanan 还写过一本名为《人工智能的黑客帝国:权力、偏见与意识形态》的书。这本书深入探讨了网络攻击如何成为地缘政治的新常态,以及人工智能在其中扮演的关键角色。可以说,Buchanan 的研究横跨了网络安全、人工智能政策和国家安全这几个关键领域,这使得他对 AGI 的发展及其影响有着远超常人的深刻见解。
6 I! n# v4 |% t, a: D! X+ E
9 p7 I* ?: m7 X. x正是 Buchanan 这种跨越学术与政策的背景,让他成为了讨论 AGI 问题的最佳人选。他的观点既有学者的严谨,又有政策制定者的务实。因此,他对 AGI 的判断和预测,绝不是空穴来风,而是有着深厚的理论和实践基础的。7 t2 m _$ _* C+ U
8 i u, C5 l6 m K; oAGI:不是“狼来了”,而是真的来了!
! L) Q+ V$ Z: v+ K. C V访谈一开始,Buchanan 就抛出了一个惊人的观点:AGI 就要来了,而且比大多数人想象的要快得多!他认为,那些“极其强大的 AI 系统”很可能在未来两三年内就会出现,甚至有可能在特朗普总统的第二个任期内(如果他当选的话)就成为现实。虽然 Buchanan 本人并不喜欢“通用人工智能”(AGI)这个有点科幻色彩的术语,但他认为这些系统将具备 AGI 的许多关键特征,也就是说,它们将在各种各样的认知任务上达到甚至超越人类水平。
0 s" [! r% E: j5 D0 I. F Y7 O" ]; o* t9 B
听到这里,你可能会觉得这又是一次硅谷式的技术炒作。但 Buchanan 的信心可不是凭空而来的,他有自己的“情报来源”:一是来自 AI 实验室和政府内部人士的报告,这些人可是亲眼见证了 AI 技术的飞速进步;二是 AI 产品的快速迭代,像 OpenAI 的 Deep Research 等工具已经展现出了让人瞠目结舌的能力;三是 Buchanan 本人在白宫工作期间观察到的趋势,这些趋势都指向一个明确的方向:AGI 正在加速到来。
# F( E8 }# u9 A& M+ m% }+ r
% r/ r+ _) E* p W( {. T, `Buchanan 反复强调,AGI 的到来绝不是“狼来了”的故事,而是真真切切、迫在眉睫的现实。他认为,许多人,尤其是政策制定者,仍然低估了 AGI 的发展速度和潜在影响,这是一种非常危险的认知偏差。他呼吁人们必须认真对待 AGI 的到来,并为此做好充分准备,否则后果不堪设想。, p# B( L$ R: D! Q' \. j
1 }9 a0 G) O2 D/ W( G国家安全的“新战场”:AGI 时代的战略博弈! f6 O& C/ E$ C- d! }0 O. }
在 Buchanan 看来,AGI 不仅仅是一个技术问题,更是一个关乎国家安全的战略问题。他反复强调,美国必须在 AGI 领域保持领先地位,这对于维护美国的国家安全至关重要。他认为,AGI 将对未来的军事、情报、经济等领域产生深远影响,哪个国家掌握了 AGI,就将在这些领域拥有巨大的优势,甚至可能改写全球力量对比。5 ?3 l6 T/ I @/ R& f3 v
' J! G. D6 h1 c. V6 H
Buchanan 特别提到了中国,认为中国是美国在 AGI 领域的主要竞争对手。他担心,如果中国率先实现 AGI,可能会在网络战、情报分析等关键领域获得不对称优势,从而对美国构成战略威胁。他举例说,AGI 可以极大地提升网络攻击和防御的能力,如果中国在这方面取得领先,美国的关键基础设施和国家安全将面临前所未有的挑战。5 D: J J5 K: h" {; ~9 v( G* @
) p+ _3 B- x$ M T" ]
为了应对这种潜在威胁,Buchanan 支持美国政府采取强硬措施,包括出口管制,以限制中国在 AGI 领域的发展。他承认,这可能会加剧两国之间的紧张关系,但这就像当年美国为了赢得太空竞赛而采取的措施一样,是必要的。他甚至将 AGI 比作太空竞赛时期的太空技术,认为美国必须像当年赢得太空竞赛一样,赢得 AGI 的竞赛。
) P) m" ]: l5 j6 K7 t* A9 S |
5 u8 O- H/ a& q1 EBuchanan 的观点反映了美国政府的一种主流看法,即 AGI 是一种具有战略意义的技术,必须将其置于国家安全的框架内来考虑。这种观点也反映了中美两国在科技领域的竞争日益激烈,而 AGI 已经成为这场竞争的核心战场。这场竞争不仅仅是技术上的较量,更是关乎未来世界秩序的博弈。
2 T( K3 y5 Q+ t) @2 v4 w0 `
, r! d' z7 e3 L! g' H3 C7 C网络安全的“潘多拉魔盒”:AGI 时代的攻防困境- f: U# {% J+ y9 G) P
AGI 的发展将对网络安全产生深远影响,这就像打开了一个“潘多拉魔盒”,既带来了机遇,也带来了前所未有的挑战。Buchanan 指出,AGI 可以用于提升网络攻击和防御的能力,这使得网络安全领域的攻防对抗变得更加复杂和激烈。3 \1 y% r2 g7 P. |7 N
$ y2 T6 U5 p* {+ K, C% K1 m一方面,AGI 可以帮助攻击者更快、更有效地发现软件漏洞,并利用这些漏洞发动攻击。想象一下,一个由 AGI 驱动的黑客,可以不知疲倦地扫描全球的网络,寻找任何可能的漏洞,这简直就是网络防御者的噩梦。AGI 还可以用于分析大量数据,从中识别出有价值的情报,从而提升网络间谍活动的能力。Buchanan 担心,在过渡时期,由于许多旧系统缺乏 AI 防御能力,它们将更容易受到网络攻击。
. P, j9 u4 X9 u2 M" [+ q. B8 T: F4 [% \. s! m3 E3 c/ I0 ~' M
另一方面,AGI 也可以用于提升网络防御能力。AGI 可以帮助开发者编写更安全的代码,减少软件漏洞的数量。AGI 还可以用于实时监测网络流量,及时发现并阻止网络攻击。Buchanan 提到,拜登政府曾推动国防高级研究计划局(DARPA)开展“AI 网络挑战赛”,旨在测试 AI 在网络攻防中的能力。+ z( y1 ?- ^) K3 \! q
, k( A$ b6 P9 S% e: |& O g然而,Buchanan 也特别提到了 AI 实验室本身的安全漏洞,他认为这些实验室可能成为国家间谍活动的目标。这不难理解,这些实验室掌握着最先进的 AI 模型和技术,其价值不言而喻。他认为,保护 AI 实验室的安全,与保护国家关键基础设施同等重要。4 t7 e0 a4 y. D( W
1 g5 v$ A3 l$ r7 w! E% o
AGI 在网络安全领域的应用,就像一把双刃剑,既可以用于防御,也可以用于攻击。这使得网络安全领域的攻防对抗更加复杂和激烈,也对传统的网络安全观念和防御体系提出了巨大的挑战。未来的网络安全,将不仅仅是人与人之间的对抗,更是 AI 与 AI 之间的较量。
/ L' i4 z7 B6 J
* j* q# ^: G6 O4 X/ Q7 e就业市场的“大地震”:AGI 时代的社会冲击+ q3 k, i9 P/ W( x% O4 y2 k0 }
AGI 不仅将对国家安全和网络安全产生深远影响,还将对劳动力市场和社会结构带来巨大的冲击,甚至可能引发一场“大地震”。Buchanan 和 Ezra Klein 都认为,AGI 将对劳动力市场产生重大影响,许多认知工作岗位可能被取代或部分取代。
) N) P: i' v, Y' z
3 M; t( v8 l3 f& g; u2 p! |3 j! I他们特别提到了那些从事重复性、规则性工作的岗位,比如营销、文案、初级编程等。这些工作很容易被 AGI 自动化,从而导致大量失业或就业结构调整。试想一下,一个能够自动生成营销文案、编写代码、甚至进行数据分析的 AI,将会对多少人的饭碗造成威胁?Buchanan 举例说,许多正在大学学习市场营销专业的学生,未来可能会面临严峻的就业形势,因为 AGI 已经可以胜任许多市场营销工作。& k' a# ?' g0 z7 D9 l& }* m Z6 x
' G n9 Z3 }7 E+ z+ p
Buchanan 和 Klein 对如何应对这种潜在的社会和经济冲击表示担忧。他们认为,政府需要为此做好充分准备,但目前缺乏具体的应对措施。他们讨论了一些可能的解决方案,如加强职业培训、提供基本收入保障等,但都承认这些方案存在局限性,难以完全解决 AGI 带来的就业问题。
6 O) |8 _; z1 g# o: ]) L" E$ D' w, D4 C4 v+ Q1 J: X) F0 p0 J3 i0 e1 A
AGI 对劳动力市场的影响,不仅仅是一个经济问题,更是一个社会问题。大规模失业可能导致社会不稳定,加剧社会不平等。因此,如何应对 AGI 带来的就业冲击,是政府和社会各界面临的一个重大挑战。这不仅仅是技术问题,更是关乎社会公平正义的重大议题。
: b% ?* B# ~: }$ X) ]2 f" d* i3 H' N3 v) \) c5 f
美国政府的“两难境地”:政策的困境与挑战+ g {) X% H* S M- L8 u/ ^
面对 AGI 带来的种种挑战,美国政府的应对策略和政策选择至关重要,但又陷入了两难境地。Buchanan 详细介绍了拜登政府在应对 AGI 方面所做的努力,并对特朗普政府的政策方向表达了担忧。5 Y: r9 s$ c2 F5 l* V( g+ H7 a
@3 R' t( D' P7 i7 v1 O9 C
拜登政府曾试图通过一系列行政命令和机构设置来应对 AGI 的挑战。例如,拜登签署了一项关于人工智能基础设施的行政命令,旨在加速能源和数据中心的建设,以满足 AGI 发展的需求。拜登政府还成立了美国人工智能安全研究所,旨在加强政府与 AI 企业之间的合作,共同应对 AGI 的安全风险。此外,拜登政府还采取了出口管制措施,限制向中国出口先进的 AI 芯片,以减缓中国在 AGI 领域的发展速度。
0 t& z& ~, ~4 `4 C. f# R: p5 V, q
; z7 i/ J7 X0 z: r; |然而,Buchanan 也承认,拜登政府的这些措施只是初步的,而且存在局限性。他认为,政府的行动速度往往滞后于技术的发展,而且在制定具体政策方面存在困难。他特别提到了开放权重模型(类似于开源模型)的问题,认为这些模型可能被滥用于恶意目的,但政府尚未找到有效的监管方法。
! U7 X( S+ }' |- @
, s+ Y' R0 X' Q6 N/ }) i: ]# BBuchanan 对特朗普政府的政策方向表示担忧。他认为,特朗普政府更倾向于“加速主义”,即强调 AGI 的发展速度和机遇,而忽视其潜在风险。他担心,这种政策取向可能导致美国在 AGI 的安全和监管方面放松警惕,从而带来不可预测的后果。4 g& @- s' B( C8 ]# u; p( q7 w
( i( I& p* a- b$ H/ J8 VBuchanan 强调,政府需要在 AGI 的发展中平衡安全与机遇。他认为,适当的安全措施实际上可以促进技术的应用和发展,就像铁路发展早期的安全标准一样。然而,如何把握监管的尺度,避免过度监管扼杀创新,是一个难题。这就像走钢丝,既要保证安全,又要追求速度,稍有不慎,就可能跌入深渊。
: q5 V* n' P% y e# O9 m' X/ m7 S5 |* ~* G4 Y6 T
DeepSeek:中国的“挑战者”与美国的“警惕”' J1 H5 g: V6 C7 V! x7 E
访谈中,Buchanan 多次提到了中国的 AI 公司 DeepSeek,并表达了对中国在 AGI 领域快速发展的担忧。他对 DeepSeek 的看法,体现了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图限制其发展。: ~) { T; J+ I3 I2 C/ T
- w# w, K8 p z0 {9 aBuchanan 承认 DeepSeek 的工程师非常“有才华”,并且他们的系统在不断进步。他特别提到了 DeepSeek 在算法效率方面取得的进展,认为这表明中国在 AI 技术方面具有很强的竞争力。1 q# Z) [1 \, z. Z1 `& b6 {3 W
3 Y0 |; E+ X3 i3 P( s5 f
然而,Buchanan 并不认为 DeepSeek 的进展像媒体炒作的那么夸张。他认为,DeepSeek 仍然受到计算能力的限制,其 CEO 曾表示,公司发展的最大障碍是无法获得先进芯片。他认为,DeepSeek 的进展并没有改变美国对 AGI 发展的基本分析,也没有动摇美国在 AGI 领域的领先地位。
9 a3 M; W; K2 _7 Z8 K. m- p2 n& N* T9 P! p: B
Buchanan 强调,美国应该继续通过芯片控制来限制中国的发展。他认为,DeepSeek 的出现提醒美国,芯片控制非常重要,中国是 AGI 领域一个值得尊敬的竞争对手,美国不能掉以轻心。) p# H) R) E$ ]3 n2 e; Z7 U. e
4 t1 f% S+ I: mBuchanan 不认同 DeepSeek 证明美国 AGI 发展范式(依赖大量计算资源)错误的观点。他认为,美国需要同时在技术前沿和效率提升两个方面都取得领先。他认为,DeepSeek 的技术进步主要来自算法效率的提升,这与美国公司(如 Google、Anthropic、OpenAI)的做法类似。
4 j! d, b* w8 U) ~& R$ N4 _' t5 H# p
6 Y4 c$ {3 i: E! I# ]* lBuchanan 对 DeepSeek 的看法,反映了美国政府对中国 AI 发展的复杂心态:既承认其技术实力,又试图通过各种手段来限制其发展。这种心态也反映了中美两国在 AGI 领域的竞争日益激烈,这种竞争将对未来的科技格局和地缘政治产生深远影响。这不仅仅是一场科技竞赛,更是一场战略博弈。; Y# b$ {9 z6 | J; x3 l1 b
; o" B! `( L1 ]2 u! \; `
“开放”与“封闭”的十字路口:AGI 时代的伦理困境7 K* z; ?, P# \6 V8 a) U- t7 t
AGI 的发展不仅带来了技术和战略上的挑战,还带来了深刻的伦理和社会问题。Buchanan 对开放权重模型(类似于开源模型)的潜在风险表示担忧,这反映了 AGI 时代开放与安全之间的复杂关系。
( n& V2 X J1 i$ }' b2 A
% A: O( [& ^9 q7 ~2 w6 c9 @开放权重模型是指那些将其模型权重公开的模型,类似于开源软件,但更侧重于模型权重本身。这种开放性可以促进技术的创新和传播,但同时,就像一把双刃剑,也可能被恶意行为者滥用。例如,开放权重模型可能被用于开发生物武器、发动网络攻击或制造虚假信息。; j. @1 H# ~+ ^9 U
% H2 f7 r% o: W' k" x7 S, gBuchanan 认为,需要持续监控开放权重模型的发展,并在必要时采取措施来限制其潜在风险。然而,他也承认,如何监管开放权重模型是一个难题,因为这涉及到技术、伦理和法律等多个方面的问题。这就像一个“潘多拉魔盒”,一旦打开,就很难再关上。6 o/ U. N2 \: B4 X L8 s
% b9 {' k9 _; O$ b7 E开放权重模型的争议,反映了 AGI 时代的一个核心问题:如何在促进技术创新的同时,确保其安全和负责任地使用?这是一个复杂的权衡,没有简单的答案。我们需要在开放与安全之间找到一个平衡点,但这绝非易事。4 N! f% N! I0 i* r! N& N1 h
2 Q4 H7 Q4 w3 Y. i能源的“紧箍咒”:AGI 时代的资源挑战
( C3 \5 J. c1 t* Q% ~AGI 的发展需要消耗大量的能源,这不仅是一个技术问题,也是一个环境和社会问题。Buchanan 认为,美国应该加速能源基础设施的建设,以满足 AGI 发展的需求,并促进清洁能源的发展。5 U5 l1 X, c* A# t$ w
( I: y+ Z3 b$ T0 @他指出,AGI 的训练和运行需要大量的计算资源,而这些计算资源需要消耗大量的电力。如果 AGI 的发展依赖于传统的化石能源,将加剧气候变化和环境污染。因此,他认为,美国应该大力发展清洁能源,如太阳能、风能、地热能等,以满足 AGI 发展的需求,并实现可持续发展。
' }8 P: Z( v; g0 W( Y/ q; p1 E0 V% L. w! T/ t* f% `8 z) D
Buchanan 的观点表明,AGI 的发展不仅仅是技术问题,还涉及到能源、环境、气候变化等多个方面。这需要政府、企业和社会各界共同努力,制定全面的战略来应对这些挑战。AGI 的发展,不能以牺牲环境为代价。
4 h0 v! @. l' m% D: T! P
2 [6 q! h5 r* {6 |+ n2 H D0 r结语:AGI 时代的机遇与挑战并存
0 o4 b+ r, @7 R" `! o; Y5 EBen Buchanan 在《纽约时报》的这篇访谈,就像一面镜子,照出了 AGI 时代的机遇与挑战。他的观点既有对 AGI 快速发展的紧迫感,也有对 AGI 带来的挑战的深刻担忧。
1 y6 v# M- R( r4 a+ r
- K7 ]6 ]) q0 YBuchanan 强调,AGI 的到来可能比我们想象的更快,其影响也将更加深远。他认为,AGI 将对国家安全、网络安全、劳动力市场、社会结构等多个方面产生重大影响。他呼吁政府、企业、研究机构和社会各界都需要为 AGI 的到来做好充分准备,包括制定合理的政策、加强技术研发、应对潜在的社会和经济冲击等。3 V/ F/ D1 ]$ T
& p, d$ m6 Z$ L! T
Buchanan 的观点也反映了前白宫顾问视角下AGI 时代的一些核心问题:
' D5 o2 e* N) {( d* e+ x+ ?1 m% I+ f5 Y, m. r" {5 u8 C
国家安全与技术竞争: AGI 将如何重塑地缘政治格局?哪个国家将成为 AGI 时代的领导者?5 t; \* p* ^5 C6 \8 L' D! @* c- {
网络安全与攻防对抗: AGI 将如何改变网络安全的格局?如何应对 AGI 带来的网络安全挑战?$ M6 z8 g2 n0 [# p
劳动力市场与社会结构: AGI 将如何影响就业和收入分配?如何应对 AGI 带来的社会冲击?* Q+ f$ Y$ k9 B! R9 ~
开放与封闭的博弈: 如何在促进技术创新的同时,确保其安全和负责任地使用?
5 v' u( X2 V1 q: D4 Y. x1 @能源与环境的挑战: 如何满足 AGI 发展的能源需求,并实现可持续发展?
1 J( w2 @8 y: W$ b9 j+ I3 T3 {这些问题没有简单的答案,需要全球合作来应对 AGI 带来的挑战。同时,我们也需要对 AGI 的发展保持警惕,避免其被滥用或带来不可预测的风险。AGI 的到来既是机遇也是挑战,我们需要以开放的心态、审慎的态度和负责任的行动,来迎接这个充满不确定性的未来。这不仅仅是一场技术革命,更是一场关乎人类未来的深刻变革。3 T7 v/ L6 ]* [, _ _
, L; c* m7 h1 N. |6 l
参考链接: https://www.nytimes.com/2025/03/ ... t-ben-buchanan.html+ W- O( m5 F& J" Q9 b1 @& D! G u
+ N6 V! F6 |1 S+ R; J! d/ m9 ]
纽约时报这个链接可能要付费,需要原文的话可以群里喊我,我扔群里。 |
评分
-
查看全部评分
|