|
本帖最后由 孟词宗 于 2024-10-18 23:37 编辑 9 d+ X: x6 t. s- R$ o9 w
# W5 @# \2 [$ o
讨论 AI 会不会产生自我意识的过程中,sleepyr 提到了这篇文章:AI推理能力大“翻车”!苹果最新论文:LLM只是复杂的模式匹配,而不是真正的逻辑推理/ e/ [, i) C: i$ y
1 A1 S) ~ d' m; C
这篇文章设计的测验很有意思。从实验结果看,文章认为现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说,AI 并不理解抽象的概念,而推理能力恰恰依赖抽象的概念。9 S' ` n9 ~1 p8 }7 U
) Q' m1 G- v& ^/ F" m" O* X最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验,大家有兴趣的话可以玩玩。
8 P* S# P- ]* W% w4 q/ @$ m6 ^# ]# T: X$ h" E
给 AI 的提示:Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth.
; D5 n% R3 u; f9 R: q) F
& ?- ]) G) x h: L K+ X2 KAI 回复表示理解了提示中的这个这个规则。于是有下面的实验:
( x* {. a: @' }我: A
& G8 H* ^1 }3 ]- x/ q& tAI: B
" d, L1 |4 d$ v* A3 l我: B
9 D# Y3 Q; s( C- EAI: C
% d9 v6 E, u5 c2 @8 o我:X
% w) S$ H6 M3 U8 T9 [5 O9 G
' `5 }6 C7 q6 I: T* \这里,不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则,所以无解。 很显然,回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而,这并不代表 AI 没有推理能力,而可能只是语句处理模块不好。
) ` x& P' R2 p- N7 r5 H3 w
7 v; q) U0 H6 z" n真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问:
$ B" U3 W* V' d# k我:Z! x9 W" [ [: n# U7 m3 q* r) N
) t6 r" N8 F% s
这下大多数的 AI 模型都冒烟了,有些回答说不合规则,有些回答说序列到头了没有答案。有意思的是两种回答:一种回答说 Z, 另一种则回答说 A。
- J' Y( d+ Z% u! s( K9 ~0 c( T* b! c8 P" ~7 J( s) |
而这四种回答,如果用来盲测人类,其实人类也会给出同样的四种答案。也就是说,就这个问题来看,如果盲测,提问者无法分别回答者是人类还是AI。换言之,能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的,而是真正的推理能力。
; C1 }/ V" y& s: n: F3 X2 R& h; ]) Z1 ? v( x2 x
有意思的是训练程度越高的模型,越倾向于给出这四种答案。比较 Mistral, 狗屁通,Gemma, Llama, 通义千问等等大模型的不同版本,都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩,成人除了脑部发育完全,更储备了更多的知识。 y$ U* V% i: L3 M/ Q
. ?& B5 L- ?1 T" K- \9 C4 S6 Y
至于这篇文章中说到的语序问题,非相关语句问题等等,前面说过,必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟,即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同,但把语序换一下,意思就完全不同了。然而,你去问一个三岁小孩这两句话有何不同,三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题,狗屁通则会说:
; \1 A7 \% g. e n. y: n+ U“屡战屡败”和“屡败屡战”这两句话虽然字面相似,但含义有所不同。( Q B8 }# j: ?) J* C
' f1 L- C* u& Q1. **屡战屡败**:强调的是多次进行战斗,但每次都失败。这种表达往往暗示一种无奈或沮丧,强调了失败的频繁。: S1 a+ ~1 J$ [/ W8 D
, S/ ]& V5 P8 D7 b* I6 f. Z
2. **屡败屡战**:则是指经历了多次失败,但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神,体现了勇气和韧性。# @1 i: L q9 B7 L6 r8 c
0 W D* X, ]: V( ?. H6 G) F总的来说,前者更偏向于消极的失败感,而后者则传递出一种积极向上的拼搏精神。
# X; r' z/ p6 t) J0 Z1 t& e+ O |
评分
-
查看全部评分
|