爱吱声

标题: 所谓三联与赫拉利的技术迷航…… [打印本页]
作者: xiejin77    时间: 2024-10-16 14:35
标题: 所谓三联与赫拉利的技术迷航……
有非技术背景的前辈发了这个链接的三联文章给我看，问我关于大模型，甚至是AI的危机是否存在。我努力的把三联这篇文章看完，忍不住写了一段话。也希望看到的朋友不要再被这样的文章所困扰。  R/ G) l; H& a9 n
% R) U4 H/ p3 C- D; w9 @
说句老实话，所谓三联与赫拉利的技术迷航，就是打着人文解读的旗号而为了攫取流量，而甘愿将自己沦为算法焦虑的放大器而已。
! B" \6 W- [9 {: M# d* ?
$ \3 N& O( V$ o' W/ v& E读罢这篇赫拉利的新书推介，一股浓郁的“技术恐慌”味扑面而来。三联一如既往地用充满人文关怀的笔触，描绘了一幅人工智能即将奴役人类的末日景象。然而，在看似深刻的论述背后，却充斥着对技术缺乏基本理解而导致的逻辑硬伤，以及对算法能力的过度夸大。
! f/ t2 j/ _/ s& {3 s5 Q) z/ Q  V# P# g; J
文章将人工智能比作脱缰的野马，认为其“独立决策”的能力将导致人类失去控制。然而，任何对人工智能技术稍有了解的人都知道，所谓“独立决策”不过是基于海量数据训练得到的统计模型，其行为仍然受制于算法的设计和训练数据的选择。将算法比作拥有自主意识的“独立行为者”，无异于将算盘说成是数学天才。
; ^+ q& x* e: `6 R7 K
5 j" j" {1 V: |  M5 x* C更令人啼笑皆非的是，文章将缅甸种族暴力事件归咎于脸书算法，认为算法为了“提升用户参与度”而主动传播仇恨内容。这种说法完全忽略了现实世界中复杂的社会、政治和历史因素，将一起惨剧简单粗暴地归咎于技术，仿佛算法是独立于人类社会之外的邪恶力量。
* x7 V. W7 T4 R- {0 k) d
5 L( S! J; g4 k1 [" |诚然，算法推荐机制存在着放大偏见和制造信息茧房的风险，但这并不意味着算法本身具有主观恶意。将算法拟人化，赋予其“愤怒”“仇恨”等情感，不过是将人类自身的责任推卸给技术的表现。) t! O- U) r: P5 x) q! G; g

, q" y3 v7 ^2 A4 s8 u# Y) R' t; `更具讽刺意味的是，文章一边渲染着人工智能的强大，一边又建议人们通过“信息节食”来抵抗算法的控制。这种自相矛盾的论调，暴露了作者在技术理解上的混乱和无力。
  T4 ^) K% r! I! i
- ?9 D8 [# t$ M8 E赫拉利作为一位历史学家，或许能够洞察人类历史的兴衰更替，但对于技术领域的理解，显然还停留在科幻小说的水平。而三联作为一家以人文社科内容为主的媒体，在面对新兴技术时，也暴露出其知识结构的短板和思维方式的局限。
. K! w$ A+ {! H6 G7 V  ^4 Q: y3 A" _$ s+ t
与其沉迷于算法焦虑，不如脚踏实地地去了解技术，用理性和批判性的思维去审视技术的社会影响。毕竟，技术本身并无善恶，关键在于人类如何去使用它。
6 C. s8 D" X5 e- Z9 m* a
* Q/ w  E4 L8 ^3 ^/ O' g5 t9 [$ e将算法比作独立行为者，就好比将算盘说成是数学天才。就算是GPT这样的大语言模型，他的算法依然没有情感，只有代码。5 |' W0 j! I$ I  ~- m
而且信息茧房的制造者不是算法，而是人类自身的偏见。与其被这种口水垃圾文章蛊惑，沉迷于算法焦虑，不如用知识武装自己。好好去了解一下AI，至少在目前的技术线上，技术仍然只是工具，关键在于使用者是谁，以及使用目的何在。
) H; G  R. ]/ _" B6 ^* ^
! B. ~! W+ I7 F总而言之，这篇文章与其说是对人工智能的深刻反思，不如说是对技术无知的放大。在信息爆炸的时代，保持独立思考的能力比以往任何时候都更加重要。不要让算法焦虑蒙蔽了双眼，更不要让技术恐慌成为逃避现实的借口。
& h- Q- G" b2 s6 T6 R7 Q  \+ t( `/ I# j0 R5 F
三联的原文链接
作者: 宝特勤    时间: 2024-10-16 18:59
首先声明我是人工智能用户，不是专家。% J) P8 H3 T) F: [2 R

4 A0 h7 ^4 O$ |9 A目前，以我对人工智能了解，我不能想象人工智能能够凭直觉提出假设。比如我，我不认为目前人工智能会突然说，“我觉得任何一个偶数能表达为两个素数的和。我没有一个证明，甚至不知道是不是没有反例。但我强烈感到这是对的。”
作者: 晨枫    时间: 2024-10-17 05:31
大模型与海量数据依然在本质上是刷题大师。刷题能解决的，大模型最终都能解决。刷题解决不了的，大模型最终也解决不了。
. A2 }% O+ K1 B1 j
; v  T* F4 s, k9 S1 Q' i- p& l世界上的“题”已经够多，所以海量刷题是能刷到很恐怖的“智能”的。但依然只是刷题大师。沿着这条路走下去，不可能走出“强人工智能”。( P# Q* T# {" f$ ]' }/ w; O
* |' C2 o2 P0 h: h7 ^: ~9 @
用围棋规则自我训练是另一个问题。那是有限问题空间里确定解的问题，是极大规模的最优化问题。在本质上，这与“深蓝”早年打败卡斯帕罗夫相似，只是算力极大提高了，算法极大改进了。
  p) P$ C6 o+ n; S2 C- ?$ h6 U. a
; @$ N- g( o2 C$ f' j这篇我可以盗用吗？转帖时会注明原作者“xiejin77”。
作者: xiejin77    时间: 2024-10-17 07:10
晨枫 发表于 2024-10-17 05:31( L) o6 U/ E  Q, m
大模型与海量数据依然在本质上是刷题大师。刷题能解决的，大模型最终都能解决。刷题解决不了的，大模型最终 ...
9 v6 ]3 V3 z- C4 R8 ^  ^" [' E4 J
晨大自取便是，我是您的读者和拥趸，不胜荣幸
作者: 孟词宗    时间: 2024-10-18 03:49
通用 AI 的现实意义是补上了人机互动交流的最后一块短板。通用 AI 实用之前，人类想要计算机执行指令必须要用计算机语言编程。而编程，不单单是计算机语言，还牵涉到精通并运用各种算法。所以需要程序猿这么个职业，也需要分析师这个职业。分析师把用户要求转化为程序指标，程序猿则通过编程实现指标。* a% v( U) w. q. {( f5 q4 o

/ M) F- [5 y9 P+ h- N通用 AI 实用后，则任何普通人不需要经过编程训练就可以给有拥有通用 AI 的计算机用普通人类语言下指令，而AI则可以执行命令甚至自己编一套程序来实现指令。继续发展下去，程序猿这个职业会逐渐消失，最后就像现代人人都可以开车一样，不久的将来人人都可以通过 AI 给计算机下指令，这会使工作效率得到极大的提高。
& ?% h. j, g. ]5 _! ^" y& m5 ?7 v+ ^
至于说 AI 会不会产生自我意识，这个还很难说。不过至少现阶段是不用担心的。
作者: 孟词宗    时间: 2024-10-18 03:52
晨枫 发表于 2024-10-17 05:31# E) }' q6 E! d- s
大模型与海量数据依然在本质上是刷题大师。刷题能解决的，大模型最终都能解决。刷题解决不了的，大模型最终 ...
# j$ S( k6 e: E8 u: I
关键在于刷题的效率。而且这两者并不是泾渭分明。现在用 AI 来处理大数据是 AI 的一个方向。
作者: xiejin77    时间: 2024-10-18 10:37
孟词宗 发表于 2024-10-18 03:49
7 g  I2 a. }* o/ G& e通用 AI 的现实意义是补上了人机互动交流的最后一块短板。通用 AI 实用之前，人类想要计算机执行指令必须要 ...

7 a6 T. Q. r% }3 R" V孟老师的这个观点，我之前就在大模型的一些讨论圈子中提过。
  J4 q% J, H/ Z/ n: S( h* T: w2 U: Y1 H  j# ~
当然，那是在出现预训练模型出现群体智能和具身智能化之前的事情。
) ^, f8 Z( z$ b! S. z9 E+ E3 p- K' I* C( a
当时都认为大模型已经颠覆掉了NLP领域的科研，但我却认为，颠覆掉NLP领域的科研其实只是一个捎带手的事情，LLM在当时，颠覆的是人机交互领域大范畴的所有。换句话说，其实颠覆的是人类与物理世界交互的方式。科研也好，制造也好，从马克思主义政治经济学的角度看，都是对于世界的改造活动。这个改造其实就是一种具象化的交流与互动。大模型通过特定的技术框架，事实上是向外改变了这些既有的范式。
- \: F9 o) B5 w9 ?+ a, p
: K: T, ~, Q3 ~( S6 S# a( ?这个意义，延伸出来，确实也不亚于智人打造出的石器……
作者: sleepyr    时间: 2024-10-18 21:57
最近这篇文章挺有意思的 https://finance.sina.com.cn/roll ... cskmnf2768775.shtml
) h7 w8 N. O; I, W. z1 e如果大模型不能具备真正的推理能力，是不是意味着以现在流行技术路线发展下去，AI能力的天花板其实并没有那么高。
作者: 孟词宗    时间: 2024-10-18 23:25
sleepyr 发表于 2024-10-18 21:57( c, L: ]- E& @6 F: v% a! ~+ O. E
最近这篇文章挺有意思的 https://finance.sina.com.cn/roll ... cskmnf2768775.shtml
7 ?3 s8 K# O/ {如果大 ...
& j/ Q5 F; y2 U3 ^4 K9 B# y5 J
" V( w# v! m7 J2 K2 P
这篇文章设计的测验很有意思。从实验结果看，现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说，AI 并不理解抽象的概念，而推理能力恰恰依赖抽象的概念。
" j9 ^3 `3 U8 ~7 B3 }+ n; l; e) {/ \/ b
最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验，大家有兴趣的话可以玩玩。
6 X- u- s: |& M$ @, Z$ f9 K5 }  t. V8 J4 q# n8 G
给 AI 的提示：Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth.
8 `# p( z3 B& G/ ^) S9 }8 t' D& `( c+ g- W6 \* }" L
AI 回复表示理解了提示中的这个这个规则。于是有下面的实验：' X: [3 F) k8 G! j
我:  A3 L) E" \* v2 R$ M
AI:  B9 _! l, H6 |& V- ?4 D
我:  B
* i1 ~, b4 y% p- j8 }AI:  C8 O, E5 v1 j& d$ Y0 D! @, Q
我：X
( P* q4 G$ m  a! a$ A
! ?! e* B4 D8 o这里，不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则，所以无解  很显然，回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而，这并不代表 AI 没有推理能力，而可能只是语句处理模块不好。
* R7 ]) b+ e3 c
# h6 ^9 B1 u; r# b9 q5 v9 u真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问：
2 j# i$ ?( u( b0 G' z# a7 _我：Z0 T, C1 B1 D  v  e2 a

% b& i$ |/ N- w- t# @0 m/ ]5 J7 x这下大多数的 AI 模型都冒烟了，有些回答说不合规则，有些回答说序列到头了没有答案。有意思的是两种回答：一种回答说 Z， 另一种则回答说 A。
& H9 H' D' j+ W. d. }2 i- z' J
  l5 Q5 j& P4 r: \) L, A2 o而这四种回答，如果用来盲测人类，其实人类也会给出同样的四种答案。也就是说，就这个问题来看，如果盲测，提问者无法分别回答者是人类还是AI。换言之，能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的，而是真正的推理能力。) i* @2 J  V& F5 }( H+ w0 O( |
( B6 d/ c) v1 v- F3 ~
有意思的是训练程度越高的模型，越倾向于给出这四种答案。比较 Mistral， 狗屁通，Gemma， Llama， 通义千问等等大模型的不同版本，都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩，成人除了脑部发育完全，更储备了更多的知识。+ b3 c! I1 `" G+ R9 f% F& r9 G# y

4 g8 `# e! q9 l# Q. r8 r至于这篇文章中说到的语序问题，非相关语句问题等等，前面说过，必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟，即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同，但把语序换一下，意思就完全不同了。然而，你去问一个三岁小孩这两句话有何不同，三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题，狗屁通则会说：
  ~2 M2 M5 Q7 D9 r8 a
“屡战屡败”和“屡败屡战”这两句话虽然字面相似，但含义有所不同。
) ~8 T! C( I/ h
' a+ b6 p# B! h7 y+ V1. **屡战屡败**：强调的是多次进行战斗，但每次都失败。这种表达往往暗示一种无奈或沮丧，强调了失败的频繁。# ~" M% M; N5 v- ?" F6 x" g- |

, J# d2 H' {- z. f5 A3 d) n+ H( y2. **屡败屡战**：则是指经历了多次失败，但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神，体现了勇气和韧性。
% ]: B5 u/ }6 H5 [& h  u, @& t/ S! H5 X/ ?2 \- O! r
总的来说，前者更偏向于消极的失败感，而后者则传递出一种积极向上的拼搏精神。

: j9 w' e. E6 L" C+ g



欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2