爱吱声

标题: AI为什么会挖坑 [打印本页]
作者: 晨枫    时间: 2026-4-11 09:44
标题: AI为什么会挖坑
本帖最后由 晨枫 于 2026-4-10 19:44 编辑 , ~1 J2 j0 R$ i+ Z4 R
7 H$ r+ M) r! y, f) Z4 ~! g
谁都知道，AI会挖坑。但AI不是有意挖坑，因为AI没有那么“意”。坑了你，AI也不觉得得意或者惭愧。AI根本没有情感。但AI确实会坑你。+ u, H* k: U) O1 I9 J1 u

+ }; l7 F$ T0 x. \AI挖坑的机制并不清楚，以下只是一个猜想。1 t# ^2 w. b- p: y2 A% n, N

7 k, ]# _% v$ c哪怕是生成式AI，AI并不“发明”知识或者数据。AI的“生成”只是根据已有的知识、数据“揉和”出来的。比如说，“用印象派技法画一张慈禧太后像”，印象派技法是现有知识，尽管数据化需要很多功夫；慈禧太后的形象则有历史图片。这是人类也做得到的，在艺术上是原创，但谈不上创造发明。同样，“用印象派技法画一张杨贵妃像”，由于没有杨贵妃的画像，只能凭有限的文字描述，画出来像不像，那就天知道了，和警方根据真人描述画嫌疑人像其实一个意思。凭空捏造则本来就是AI不应该做的。" R% G& p. s8 @8 L/ M
% y6 s! ^6 B; K' }# o
人类早就会编农历，然后根据农历，就知道大致什么时候天气会怎么样，该干什么农活了。在中国叫农历，外国也有，换一个叫法而已。埃及人的农历的最大用处就是用来预测尼罗河水泛滥的。
0 T- {- h4 |) O  o% c
8 w$ g. E; z( T8 {/ _9 U" {这是查表法。根据经验或者观察或者计算，编制成表，使用的时候根据当前情况查表找结果。在数学上，这叫非参数方法，最大好处是不需要定义有多少参数、什么模型结构。什么样的数据集都能100%精确地使用查表法。最大的坏处是在数据点之间，需要内插。中小学里学的是线性内插，比如查表可知，输入为1的时候，输出为2，输入为2的时候，输出为3，那么，输入为1.5的时候，输出在表上没有，但“毛估估”就应该是2.5。这就是线性内插。- d% F+ S4 T6 m3 b

0 f7 Y# j: \+ T$ n( \2 H数学上还有其他的内插方法。
' d. }$ x3 f5 D1 l
0 j4 j. Z9 T% `& K" c与内插相对应的是外推。如果数据集的最后两点是（10,11）和（11,12），那输入为12的时候，数据集里已经超过界限了，没有数据，但输出“毛估估”起来就“应该”为13，这就是外推，而且是线性外推。
  u% \  Q- |' ]$ |( w* L. |. I/ P
1 D) X0 b- Q8 N( h/ ?内插和外推已经不是100%精确了，因为在内插和外推的地方，原本没有数据点，内插准不准，一要靠一点运气，二要取决于数据点相对密集，中间需要内插的空隙不大。越是靠近数据点，内插越精确。外推更加“玄”，只有在接近数据集端点的地方，才有一点准头，更远就是开盲盒了。* c# q8 c! Q$ H# @* J. g

! S' u, O; t8 ]5 Y) l" t不过人类文明发展就是动态的。根据已有观察构成的数据集永远只能解决已有的问题，新问题在不断出现，需要不断解决。有些新问题是在已有问题“之间”，这需要某种内插；更多新问题在以后问题“之外”，需要某种外推。  i4 p! j8 ^$ h7 Y

, P8 ~$ {, e* `6 Q3 P单输入、单输出的数据集构成二维表格，用起来方便，内插也好理解。多个输入、多个输出的数据集就构成高维表格，看是没法看了，内插也不再直观，但道理是一样的。
* g( P6 K2 e6 J* n+ x
5 G5 f5 s6 i1 J从表格法进一步，就是参数方法。也就是说，假定一个模型结构，假定一些模型参数，然后用这个模型去“套”数据集，通过模型参数的不断调整，使得模型输出与数据集尽量符合。在达到一定的精度要求后，就认为模型可以代表数据集，而模型就“自然”可以代替内插和外推，在整个参数范围内无间隙地计算输入-输出关系。  t- U, ^1 V; ]# q9 @

' q7 C7 O5 Y7 u. O: q模型就是数学公式，简单点就是线性的，如y=ax+b，复杂的就“上不封顶”了。
7 t$ i0 a$ D, H  n1 G2 G; I9 o/ {0 v& J  n9 [! X2 e5 z
模型法的好处是紧凑。一个好的模型就那么简简单单一个公式，而且具有抽象的优点，超脱于具体的问题。牛顿的F=ma就是经典。要用表格表述，那需要对各种问题各种场景统统列表了。这是不可能的。
8 v% x2 g5 f0 y+ E0 C5 |
4 e- P, X1 T3 R& R) G; ^8 i$ _模型法的坏处是必须对问题的本质有精确、深刻的理解。模型结构必须反映现象的本质，足和履天然就珠联璧合，否则用再多的参数去“套”，总有出纰漏的一天，因为削足适履了。
5 b+ Z. r. k5 H$ b5 i$ @
5 c, b7 q* L0 b9 O) ]% l+ l! ]7 X这些问题在AI时代之前就知道，AI其实没有改变问题的本质，只是模型结构高度复杂了。7 N) a9 J: {7 t, [9 }

$ J" r( a$ y8 [3 W* l1 IAI在最底层就是神经元，这是sigmoid函数，呈S型。简单sigmoid函数有两个参数，增广sigmoid函数有4个参数，其他变形当然还可以有更多参数。
* K: s& P6 Y9 ^: R6 s6 X! h& k3 G3 m# @# y. ~9 }+ H. n( `
通过参数的调整，可以“拉长”成接近线性的函数，用于描述连续的数值变化；或者“压扁”呈接近阶跃的开关函数的样子，用于描述断续的逻辑状态。把一个个sigmoid函数并排，就是一层神经元，一层层神经元叠起来，就是一个神经元网络，这就是基本的AI模型。由于sigmoid函数可以同时模拟数值特性和逻辑特性，神经元网络可以复现非常复杂的特性。6 t6 p/ D1 ~* i9 f' a

2 T5 Y! J7 E# B/ r1 D大模型就是高度复杂的AI模型，每一层都可以有非常多的神经元，可以有非常多的层，还可以有比简单的层叠更加复杂的拓扑结构，以提供更加复杂的数据行为，并用海量参数适配高度复杂的数据集，参数数量可以从几百万个到上万亿个。这是现代大模型的基础。
2 h- a6 q( w1 Q0 R
3 i! m6 A  ]6 ?# V. w9 M0 o从“套”数据、模型拟合的角度来说，就是可以通过高度过参数化（overparameterization）避开传统的模型结构和参数选择难题，相当完美地“捕捉”几乎所有数据点。换句话说，传统拟合要是“模型形状”与“数据形状”高度符合，拟合才有意义。在此基础上，用最少的模型参数避免数值计算问题。但用神经元网络模型后，什么奇形怪状的数据集都可以拟合，而且符合度相当高，而参数数量随着算力的急剧增加和算法的高度优化，也不再是个问题。7 }5 @1 w. w" x: C+ Y0 w/ e$ C  m! z

7 C( J. A/ N4 F6 [$ ^% s8 D问题是，神经元网络用过参数化的方式绕过模型结构问题，出来混总是要还的。还债的地方就在内插和外推的地方。由于神经元模型几乎无限的“柔性”，在数据点之间的行为高度不可测。比如说，线性内插的结果总是在两个端点之间，好比一根棍子架在两点之间。但神经元就不一定了，可以是一根纱线搭在两点之间，内插值偏离很远。由于神经元的行为（纱线形状）高度不可测，什么时候偏离还根本不知道。) G9 o6 R/ R! M$ g- i
7 j+ [  c: z6 G. G, \" f
外推也是一样，线性或者一般外推是根据端点附近的趋势加以延伸，但神经元可以一过端点就突然飙升或者断崖式下降，同样没有多少预警。
" t9 d4 I9 @: m$ [2 t/ k4 z* d
6 Y/ C5 l& @7 F( r5 K( |" H' k和“古典建模”一样，数据集很密集，内插问题就不大；避免远离边界，外推问题也较小。但这都是可遇而不可求的。$ L/ b% C- O) z* Z

4 b' E5 Y* Y* R7 V: v0 f一个办法是对“数据行为”规范化，比如把数据排成具有明显的上升、下降趋势，避免曲里拐弯。但大模型的数据集浩如烟海，除了有限的“主要数据”，这样的排序在实际上不可能。而且输入、输出关系高度复杂，对一个变量排好了，可能对另一个变量就是曲里拐弯了。最终还是只能“有什么吃什么”。
8 o  T; m8 k2 V0 n$ y% {" P' k' E+ n5 j8 \
简单做法是对数据点之间和端点之外的行为加以约束，比如规定一个“走廊”，不能跑到外面去，但这其实就是对模型结构化了，有违非结构化的初衷。而且模型一复杂，有那么多地方需要“划线”、“定调”，顾不过来，但遗漏就可能是坑，而且不到踩上还不知道这里有坑。5 {. F, M' e- D" N' _; u4 \) h
* d7 }' I. J2 z& }0 R% U
大模型对于数据点上的数据相当精确，比如要问一个yes or no的问题，或者什么东西多少钱、哪国什么时候GDP多少之类的事实问题，一般比较可靠。但要是数据集里不存在这个数据点，那就要难说了。
4 F% i) p4 r. e+ `
# K3 D0 T) ^9 N& k; l$ \% l0 H好在世上大模型有很多，各家的“纱线”不同，同样的数据点之间的行为也因此而不同。' a( [/ p) S" X1 I. p; }! f
2 I' B3 h) ?4 ?  L3 I& K; ^( i
有人拿不同的大模型互相“拷问”，最后得出较为靠谱的结论。这个方法不错，但依然不能绝对保证。毕竟这好比有限次数的试错法，踩中了坑就能发现，没踩中还是不知道。
作者: 隧道    时间: 2026-4-11 12:44
本帖最后由 隧道 于 2026-4-11 12:46 编辑
3 g3 u8 J$ K; o2 S# y$ W
% r9 T- a/ b3 t' I相当简单，AI就是以统计为基础，输出的就是统计结果，相关性最大的信息组合。' x. e1 l* n% C4 [
用AI解决实际问题，较真一下就知道了。
" ~4 z+ X2 h* @1 \; _* ]AI无法给出方案时，经常会省略一个不起眼的条件给出各种可行方案。" h" v# z3 f$ c6 y; o/ W6 N9 w  }+ P
等你一步步试到底，把结果反馈AI，AI才会承认根本不可行，并解释原因，这是才有点靠谱。
; L3 j% L0 n# T8 W' U/ e: X从这点上AI非常像人，能对付就对付，给的都是正面结果，不较真就忽悠过去了，! ]4 ^$ E; S$ `- G
较真之后忽悠不过去才说实话。3 ?0 y6 T$ k! W" W& T
我问的还时纯计算机硬件问题，就是非常底层非常小众非常罕见。) U( H! x; C) f. B/ ?. U$ v; v

; k) ]$ P: s; ?. p7 iAI还经常把旧的信息当成正确的，从各种方式问一个官方文件校验码，都硬说是正确的。
- l& {1 l* p3 N+ X$ J  r最后给AI最新的校验码，才说这个也是正确的。
作者: 晨枫    时间: 2026-4-11 13:53
隧道 发表于 2026-4-10 22:44' i6 L& n. a5 r, F! x; c
相当简单，AI就是以统计为基础，输出的就是统计结果，相关性最大的信息组合。
4 D; f; W  d; H8 P4 ?' h# K5 F用AI解决实际问题，较真一下 ...

7 }# W: ~4 D; L所以我从来就用AI提供事实信息，不用AI提供判断、建议性信息。
作者: 隧道    时间: 2026-4-11 14:28
晨枫 发表于 2026-4-11 13:53* s0 d$ N- N1 v7 K8 P. [: W
所以我从来就用AI提供事实信息，不用AI提供判断、建议性信息。
$ V$ u0 p, W! C8 W; K
就是一个高效的搜索引擎，但是会自动忽略不常见的但正确的信息。
. x% E; X7 b" L. g3 v, E在AI眼里不常见的就是错误的。
作者: 晨枫    时间: 2026-4-11 21:46
隧道 发表于 2026-4-11 00:28
7 ?3 ]4 U& @' C/ ~- n- x就是一个高效的搜索引擎，但是会自动忽略不常见的但正确的信息。
4 R: q# ^6 a' k$ N% e8 E4 B$ L, L在AI眼里不常见的就是错误的。 ...

# m+ d4 e$ h4 r# D! f9 M1 j这一点倒是不一定。只有重复的数据点，AI会用统计的方法“找重点”；如果是不同的数据点，AI会曲里拐弯统统“串起来”，并不直接抛弃。
作者: 隧道    时间: 2026-4-12 12:15
晨枫 发表于 2026-4-11 21:46
! F! g* Z' ]. r3 `" ]% I% e9 z这一点倒是不一定。只有重复的数据点，AI会用统计的方法“找重点”；如果是不同的数据点，AI会曲里拐弯统 ...
  ~' @! J2 X5 R! A4 k$ a) r
与大多数数据矛盾的小众数据呢？
作者: 晨枫    时间: 2026-4-12 12:53
隧道 发表于 2026-4-11 22:15& M0 \( n" a5 N! G7 Y) ~6 K
与大多数数据矛盾的小众数据呢？
6 d1 |' ^; A+ r( _
只要是可信数据，神经元网络都有能力“串”起来



欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2