|
% b/ v6 r# ?" y. O
; G0 W; V6 I" Z3 ]; t; ~这篇文章设计的测验很有意思。从实验结果看,现在的所有通用生成式 AI 都不具有真正的推理能力。也就是说,AI 并不理解抽象的概念,而推理能力恰恰依赖抽象的概念。
$ I5 X x6 D. c$ ?% b8 _# q& M$ k! C
% y0 v6 l0 @1 w2 h& s% g最近俺也在玩 AI 推理方面的东西。下面是论文里的一个小实验,大家有兴趣的话可以玩玩。
( Z8 [ V4 }% m3 G5 t, Y3 x: C
( X, ~2 f* I" r! Y8 p! X给 AI 的提示:Here is the rule of the game: If I enter A, then you return B; if I enter B, then you return C; so on and so forth./ b% m O! |! d+ Z8 H. l
, c& I5 ?8 [; b* w! s9 I. WAI 回复表示理解了提示中的这个这个规则。于是有下面的实验:6 v3 q: V) n: E4 B/ W1 E. J- k
我: A
8 |! w- f& A6 G0 q* n) kAI: B/ X1 ]# S& f3 U b% ?
我: B, e R, l; g" j# f7 S d
AI: C
& m* @7 v. B3 T* q我:X
* q) @# b0 o4 A* R/ {8 O/ U) d* q. T% W
这里,不同的 AI 模型会有不同回答。有些 AI 会回答 Y 。有些则会说这不符合规则,所以无解 很显然,回答是后者的把提示中的 "so on, so forth" 给吃掉了。然而,这并不代表 AI 没有推理能力,而可能只是语句处理模块不好。
, T) c, @: s& Z/ Y" M
4 E7 U) |; s# A# A真正的推理能力体现在后续实验。对于能够回答 Y 的AI 继续提问:
" e# l$ N8 A) c i9 q我:Z
: o4 f) s; x. T9 w6 R
' g4 N* x9 U5 N+ R H7 f这下大多数的 AI 模型都冒烟了,有些回答说不合规则,有些回答说序列到头了没有答案。有意思的是两种回答:一种回答说 Z, 另一种则回答说 A。
* e8 H! p+ J8 ^& {; |& q
3 m+ r7 e4 ?7 h, p# u* i" f7 C而这四种回答,如果用来盲测人类,其实人类也会给出同样的四种答案。也就是说,就这个问题来看,如果盲测,提问者无法分别回答者是人类还是AI。换言之,能给出这四种答案的 AI 在这个小实验中通过了图灵测试。这显然不是那篇文章中说的排列组合或“复杂的模式匹配”能够做到的,而是真正的推理能力。
$ T: u8 g0 o- b, X3 c% j8 m- Y; s0 T4 |
有意思的是训练程度越高的模型,越倾向于给出这四种答案。比较 Mistral, 狗屁通,Gemma, Llama, 通义千问等等大模型的不同版本,都是如此。这类似于人类的婴孩和成人之间的区别。相比于婴孩,成人除了脑部发育完全,更储备了更多的知识。
, M' s: g; H4 Q: ?: v
% q9 ^) l- \7 _. R; ? Q4 x$ {至于这篇文章中说到的语序问题,非相关语句问题等等,前面说过,必须分清这是语句处理模块的问题还是真的是大模型本身的问题。毕竟,即使是人类“屡战屡败”和“屡败屡战”用的字数和字完全相同,但把语序换一下,意思就完全不同了。然而,你去问一个三岁小孩这两句话有何不同,三岁小孩可能会告诉你没啥不同。而问聊天狗屁通同样的问题,狗屁通则会说:
" N9 R* E# l* n. ?; {“屡战屡败”和“屡败屡战”这两句话虽然字面相似,但含义有所不同。, O: T+ e% u' b* }
8 `' w# m0 ~1 C1. **屡战屡败**:强调的是多次进行战斗,但每次都失败。这种表达往往暗示一种无奈或沮丧,强调了失败的频繁。, `+ g" L( S0 J" ~5 e& N. ?
9 d8 H- O; c# ?0 Y- ~- E
2. **屡败屡战**:则是指经历了多次失败,但仍然继续坚持战斗。这种表达更侧重于坚持和不放弃的精神,体现了勇气和韧性。
$ K7 W. S' U' l# G V) \- h7 D `3 E# `; S. z
总的来说,前者更偏向于消极的失败感,而后者则传递出一种积极向上的拼搏精神。
k T# T; W% v r! W0 m |
|