|
本帖最后由 孟词宗 于 2024-10-18 23:37 编辑 + K' f7 }9 O/ a6 M
$ ?- s0 _1 }: h7 j" V% R
讨论 AI 会不会产生自我意识的过程中,sleepyr 提到了这篇文章:AI推理能力大“翻车”!苹果最新论文:LLM只是复杂的模式匹配,而不是真正的逻辑推理' \( b" a6 t8 ~9 {) w9 d
1 }# K* {" h) z' F( T: d这篇文章设计的测验很有意思。从实验结果看,文章认为现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说,AI 并不理解抽象的概念,而推理能力恰恰依赖抽象的概念。
7 J* b5 U8 ^; T2 U% D6 x3 J% g' A, p1 G6 h. `2 k \
最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验,大家有兴趣的话可以玩玩。' _# i5 }1 A6 r8 S; c% B6 U
+ h/ J1 |* N& p# I8 d) }给 AI 的提示:Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth.
/ m) u% K4 v* y& ~6 r* R* ~5 g$ Z! o6 O$ n. f1 L% s! g
AI 回复表示理解了提示中的这个这个规则。于是有下面的实验:
7 f+ v; ^5 a& k我: A! M8 H, X' Z, |4 ]8 S- q
AI: B
0 w* c# H# H/ J1 o4 c( R0 M# R8 k' z我: B7 U; C, h+ `! W9 W! \$ P9 J3 J
AI: C" U; Q1 h2 m" n$ [
我:X% y! N: Q7 f) u2 ^
* Y4 h& {; r- N# a) ?7 Y这里,不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则,所以无解。 很显然,回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而,这并不代表 AI 没有推理能力,而可能只是语句处理模块不好。
8 ~0 k$ B3 G/ i3 L, i; y! ^- }$ l' c' _& q
真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问:
+ s8 P6 d: F) G# e! F: Z O我:Z
D* C( ]8 l! h- _; B. u1 n1 q( a) I+ l) ^
这下大多数的 AI 模型都冒烟了,有些回答说不合规则,有些回答说序列到头了没有答案。有意思的是两种回答:一种回答说 Z, 另一种则回答说 A。
& f( R3 o0 |4 z7 K8 k' G
' y' j3 O3 q4 F, q: b而这四种回答,如果用来盲测人类,其实人类也会给出同样的四种答案。也就是说,就这个问题来看,如果盲测,提问者无法分别回答者是人类还是AI。换言之,能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的,而是真正的推理能力。" `) K+ I D! W2 ]& j5 |" }+ v
* K- g, y9 u! i3 N; z2 ~, ]0 j* z2 i- h有意思的是训练程度越高的模型,越倾向于给出这四种答案。比较 Mistral, 狗屁通,Gemma, Llama, 通义千问等等大模型的不同版本,都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩,成人除了脑部发育完全,更储备了更多的知识。0 Z- Z" ^- Q2 G4 _2 ~, A7 h
: [9 f8 @8 a8 U4 g1 k; J6 {6 \' {
至于这篇文章中说到的语序问题,非相关语句问题等等,前面说过,必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟,即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同,但把语序换一下,意思就完全不同了。然而,你去问一个三岁小孩这两句话有何不同,三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题,狗屁通则会说:3 b% M& W8 S9 x% T
“屡战屡败”和“屡败屡战”这两句话虽然字面相似,但含义有所不同。$ \& H+ o, ]& }
L5 i3 h0 o, d" T, Y5 T, S
1. **屡战屡败**:强调的是多次进行战斗,但每次都失败。这种表达往往暗示一种无奈或沮丧,强调了失败的频繁。
/ S3 e0 _" v7 H; w H5 N/ r3 h' v- C& {8 ?8 R
2. **屡败屡战**:则是指经历了多次失败,但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神,体现了勇气和韧性。
8 r& A9 d8 n7 l* b9 J4 P% F
, }( B( G8 i( E( R* G. S总的来说,前者更偏向于消极的失败感,而后者则传递出一种积极向上的拼搏精神。
( b+ n2 L. z' E% ^3 `* R/ N |
评分
-
查看全部评分
|