爱吱声

标题: 在AI时代，人怎么办 [打印本页]

作者: 晨枫 时间: 3 天前
标题: 在AI时代，人怎么办
经常有人慨叹，AI来了，人类要没饭吃了。

AI能够超过人类智慧，这是个哲学问题，就和“我们”的本质是什么一样，可以争论到地老天荒。

至今AI没有超过人类的智慧，AI超过的只是人类对知识的记忆和对技能的掌握。人和计算机拼记忆是毫无希望的，人与计算机控制的机械拼精细也是毫无希望的。但已有知识、已知技能好比一个个数据点，AI对这些数据点的掌握好比查表，自变量、因变量一对齐，结果就确定无疑。

但世界是复杂的，大量场景在自变量的数值点之间。比照查表的话，这就是在自变量、因变量的数据之间内插。对于人类来说，看上去AI就在提供“喂进去”的知识之外的全新东西，好像AI会“创造”了。其实不然，这只是对“喂进去”的数据的内插。

当然，一般的表格是二维的，三维已经很复杂了。理论上可以有更高维数的表格，这就不是“查表”那样可以直观比照了，但本质没变。这正是数学的威力：可以抽象，可以跳出具体的维数、数据量。确实，AI的大模型可以有的输入变量何止千百，“表格”的节点数是天文数字，所以需要那么变态的算力来训练、来“查表”。

AI的内插也不是中小学的线性内插，而是用神经元网络或者其他数学方法的“智能内插”。问题是，线性内插可以在输入数据范围确定后，确保输出数据范围不会离谱，但“智能内插”就不一定了。这也不是传统的内插，或许更应该说是样条函数。目的是用“简单、紧凑”的函数来复线浩瀚的数据集。否则干什么都需要直接到原始数据集里去内插，人人都需要袖珍超级计算中心才能运作AI了。

样条函数可以简单化地理解为用多项式拟合离散的数据点。多项式的阶数越高，可以精确拟合的数据点越多，其余数据点就只有近似了。AI模型不是多项式，而是高度复杂的神经元网络，但道理相似。AI模型训练就是通过调整模型参数，使得模型尽可能毕竟最多的数据点。问题是AI模型高度复杂后，模型特性也高度复杂，甚至不可预测。在数据点上精确拟合不等于在数据点之间保持正确的“大趋势”，所以需要很多办法来确保“不离谱”。

其实多项式也一样。一阶是线性的，二阶是二次曲线（圆、椭圆、抛物线等），三阶以上就复杂了，到了100阶就谁都数不清楚了。但AI大模型要比照的话，大概是亿万阶了。也就是说，曲线可以曲里拐弯，而且谁都没法“一眼就看出来”这里的曲里拐弯是本该有的，还是数学上“折腾”出来的。这带来模型可靠性的大问题。

AI大模型的结果是怎么出来的，如何确保可靠一直是大问题。现在大语言模型把推理过程列出来，有利于人类验证。但AI用于自动决策的时候，或者验证的人缺乏足够经验和知识的时候，如何验证，依然是大问题。

说一千道一万，AI可以代替人干很多事，但在可预见的将来，不可能代替人，而且只有在人类也只要费点心、用点力的地方才能代替人，在人类也抓瞎、真需要帮忙的地方，AI一样抓瞎，或者提供的解决方法谁都不知道是否靠谱。

这其实在现实生活中已经广泛存在了，即使没有AI的显性介入。

现在人们看病，医生立马开一大堆化验、检查，然后根据结果开方抓药，或者手术治疗。但谁都知道，大多数病例并非简单的看单下诊，绝大多数现实病例都是在“明确无误”的数据点之间，需要医生用经验、观察和研究（包括某种措施、刺激来发现更多的问题）来“内插”。真正的疑难病症可能远离任何已知的数据点，这就需要专家了。作为基层医生，最要紧的当然是解决一般病症，但同样重要的是知道什么时候超过了自己的能力范围，需要向上级医院和专家转诊。

在军队里也是一样，雷达、红外、信号等情报手段高度发达了，大部分军事作战都是根据情报制定作战计划。但战争之雾永远存在，当雾浓到一定程度的时候，就需要请求增援。同时，打仗也不是“看着雷达按导弹电钮”那么简单。雷达、导弹把具体细节层面上的问题解决了，眼观六路耳听八方没那么重要了，神枪手没那么重要了，但这些“没那么重要”的代价是人人都需要成为战术家，从雷达里判读出不显而易见的事情，指挥导弹打向最能决定战斗的敌人痛点。

在AI时代，AI可比基层医生和下级军官，但疑难杂症和战争之雾还是要人来解决。

一个显而易见的问题是：名医和战术家没有了那么多实践经验，哪来的“超人”经验和判断力？

这是高度训练和“专治疑难杂症”的结果。

就医生而言，中西方可能有所不同，但大路子应该相似：医科生最后分流为全科/保健医生、专科医生、高级专科医生。全科/保健医生好理解，专科医生指内科、普外、妇产、精神等“大路专科”，高级专科则是更加细分的心外、神外、青少年精神病等。培训时间逐级提高，但都是从医科生开始，在医科生时代也都轮转经过所有主要科室，所以不存在没进过手术室、没有接生过的医科生。但不是全科/保健医生一干十年后再专修专科，再干十年后再进修高级专科。

高级的专家在更长、更专业的培训中学习，毕业、执业后专注于本专业的疑难杂症，他们对于一般病症实际上技能是“退化”的。医学院里谁都学过人工呼吸，但高级专家要是不常年保持相关资质的话，可能真要用的时候，都不敢给人做人工呼吸。

回到AI时代人怎么办的问题，在AI时代，一般性的问题由各行各业的“专业AI”（连同机器人、自动化系统等执行机构）在一线解决了，但需要专家在上一层监控AI，AI也需要自动报告“我管不了啦”。而且问题各种各样，需要“专科医生”级的分门别类同步监控、优化。在更高层次，则有“高级专家”从更高层次监控、优化。

那专家和高级专家从哪里来呢？从长时间的专门培训中来。导师来自丰富经验，但这像裂变反应一样，一个导师带5个徒弟，其中一个接着带徒弟，其他散入工业实践中去，或者别的从业领域。

专家只需要很少人，其他人怎么办？这可能是大多数人真正关心的问题。

其他人不能“凉拌”，但还是要牢记：科技进步是为了更高效的产出，而不是更多的就业。在人工的时代，产出与就业是同步的。AI和自动化时代打破了这个同步，但又没有打破。AI使得很多事情“变容易”了，开辟了很多前所未有的新赛道。

比如说，汽车设计是很专业的活。设计师最初画出新车款式的草图，需要从几张概略的草图细化成精细的效果图，然后进一步细化到各种外观和内饰细节，比如门把手、方向盘、中控台、座椅和椅背等等，然后到机械选型和工程设计，最后具体到可以发到工厂车江的图纸。这中间有海量的工作。

但现在，很多具体的琐细工作可以用AI和某种自动化设计工具接替，从铅笔草图到照相级的效果图（还是各种角度）也可用AI完成，网上大量天马行空出来的“我的汽车设计”已经出现，与专业的工具链打通，从想象到落地的路径大大缩短。加上高度灵活、可定制的3D打印，可以自己设计汽车或许很快就不是梦了。

汽车只是一个方面，家具、家电、服装、玩具都是赛道，更加虚拟的游戏也是一样。

换句话说，AI将极大解放思想，但“你”的挑战不再是记性好、仔细，而是要想在别人前面。

把人与AI看做平面上的零和竞争是狭隘的，AI实际上开辟了立体和更多的维度，“你”需要跨入新的维度，驾驭AI，而不是被AI驾驭。

要做到，教育是基本的。在AI时代，读书的“用”不在于重复前人，而在于知道前人已经在哪里走过了。所谓“科技和知识已经发展到头”是糊涂和愚蠢的想法，只是看不到未知所以以为未知不存在。在这一点上，拉姆斯菲尔德的knowns and unknowns倒挺贴切：

as we know, there are known knowns; there are things we know we know. We also know there are known unknowns; that is to say we know there are some things we do not know. But there are also unknown unknowns—the ones we don't know we don't know.

knowns是有限的，unknowns是无限的。AI打开了新维度，利用起来，这才是AI时代的人应该怎么办。

作者: 喜欢就捧捧场 时间: 前天 01:14
我们公社现在规定所有在总部工作的经理必须经过AI 相关培训

作者: 晨枫 时间: 前天 02:31

喜欢就捧捧场发表于 2025-12-6 11:14
我们公社现在规定所有在总部工作的经理必须经过AI 相关培训

这其实是个荒唐事。AI怎么培训？这就像20年前公司发一道命令，所有中管高管必须经过计算机培训。

这样大而无当、漫无目标的规定说明的不是重视，而是无知和推卸责任，可以看做一种尽责吧。

作者: yanei 时间: 前天 03:14

晨枫发表于 2025-12-7 02:31
这其实是个荒唐事。AI怎么培训？这就像20年前公司发一道命令，所有中管高管必须经过计算机培训。

这样大 ...

这到不一定。老板们只需要知道有这么个东西，能做什么，找谁去做。下命令时不至于无的放矢就好。具体怎么操作不需要她们操心。

作者: 晨枫 时间: 前天 03:43

yanei 发表于 2025-12-6 13:14
这到不一定。老板们只需要知道有这么个东西，能做什么，找谁去做。下命令时不至于无的放矢就好。具体怎么 ...

这正是荒唐之处！

对于怎么做一点不知道，正是老板瞎下命令的根源之一：他们不考虑可实现性。

just know enough to be dangerous是“MBA流派”的最大弊端。

作者: yanei 时间: 前天 08:49

晨枫发表于 2025-12-7 03:43
这正是荒唐之处！

对于怎么做一点不知道，正是老板瞎下命令的根源之一：他们不考虑可实现性。

看样子老大被MBA们瞎指挥伤得不轻：）

作者: 晨枫 时间: 前天 11:42

yanei 发表于 2025-12-6 18:49
看样子老大被MBA们瞎指挥伤得不轻：）

公司死里逃生，就是MBA害的。接下来的CEO深孚众望，但在官斗里被撵出去了。

作者: yanei 时间: 前天 13:40

晨枫发表于 2025-12-7 11:42
公司死里逃生，就是MBA害的。接下来的CEO深孚众望，但在官斗里被撵出去了。 ...

个人观点，MBA是美国几个毒瘤之一。

作者: 晨枫 时间: 前天 14:10

yanei 发表于 2025-12-6 23:40
个人观点，MBA是美国几个毒瘤之一。

最大的毒瘤！

作者: 赫然 时间: 前天 14:23

晨枫发表于 2025-12-6 13:31
这其实是个荒唐事。AI怎么培训？这就像20年前公司发一道命令，所有中管高管必须经过计算机培训。

这样大 ...

还是应该让小五多介绍介绍培训的目的方法和原因。

据我有限的了解，中国绝大部分官员都已经经过了AI培训。让他们了解AI，理解AI，使用AI。现在，政务系统里面，已经嵌入AI进行很多工作了。这部分的功能和表现，主管必须了解。而且，现在会计，尤其是审计，大规模使用AI，很多财务问题极易暴露。主管和主官都必须了解。

物流行业相比也在经历这样的变革。小五是最最权威，最最了解情况的。AI应用在物流的落地，她应该是最最清楚的。到底这是洪水猛兽，还是清风拂面，她最有发言权了。

这次AI革命（如果最后真的革命的话）有个巨大的特点，就是自上而下。这个在中美都是。AI的推动，不是开始于基层使用的得利，继而扩大的。而是，高层组织性的推动，甚至不以推动经济发展为主要目的。这是要格外关注的地方。

作者: 老票 时间: 前天 14:23

说一千道一万，AI可以代替人干很多事，但在可预见的将来，不可能代替人，而且只有在人类也只要费点心、用点力的地方才能代替人，在人类也抓瞎、真需要帮忙的地方，AI一样抓瞎，或者提供的解决方法谁都不知道是否靠谱。

赞同~

也要关注以下现象：AI看CT图判断肿瘤，准确率已经超过普通县医院的医生 AI看片医生

AI的“超能力”：从“辅助”到“质变”

“肺影智”的核心，是基于200万例肺癌CT影像训练的深度学习模型：

精准识别：能区分良恶性结节（准确率97%），甚至通过“生长速率”“边缘毛刺”等18项指标，预测5年内癌变风险；
效率革命：以前医生看1张片需5分钟，AI仅需0.3秒，且能自动生成“诊断报告模板”（含结节位置、大小、建议随访时间）；
基层赋能：通过云平台连接全国2000家县级医院，基层医生上传CT片后，AI实时反馈结果——“现在县医院的肺癌检出率从30%提到了70%。”云南某县医院放射科医生说。

大量看片医生的工作，可能或正在被AI替代；那么问题是，因为AI替代掉了原本应该拥有的看片经验，这些医生的医术是更好了，还是更弱了呢？如果缺少了这些基础实操经验并不会削弱人类医生的医术，那就要求医生的思考更上一层楼了？

作者: yanei 时间: 昨天 04:59

老票发表于 2025-12-7 14:23
赞同~

AI在读片方面肯定是有发展前途的，特别是大批普查专门找某一类病变的时候。但是要代替医生，哪怕是基层医生，恐怕还有一大段路要走。最简单的一条，要是去问那些AI公司如果AI误诊漏诊（包括与目标病变无关的重要疾病），他们会不会负责。看他们怎么回答。另外还有社会接受程度和是不是还有法律规定必须有资格的医生才能做诊断。总之AI代替医生还有不少技术性和非技术性的障碍需要解决。北美用AI（从前是CAD，计算机辅助检测）帮助看乳房造影片已经有大约30年历史了，叠了不知多少代，到现在都还没有看到完全代替放射科医生的迹象。

作者: xiejin77 时间: 昨天 08:54
晨大好。非常赞同你的说法。

维纳有一本书，叫做《人有人的用处》。我在今年年初的时候重读了一下，还是很有些收获的。在公号写了篇文章。

我的观点是：
人工智能的发展方向、算法的偏见与透明度、信息网络的治理模式等，也都是社会选择和干预的结果，而非纯粹的技术必然。

所以，我们必须明智地、人道地使用这些工具，确保技术的进步最终是为了提升人的尊严、扩展人的自由、丰富人的生活，真正实现“人有人的用处”，而非让人沦为机器的附庸或控制系统的囚徒。

公号文章

作者: xiejin77 时间: 昨天 08:59

老票发表于 2025-12-7 14:23
赞同~

别说普通县医院。

上海的中山医院，之前在交流AI中试基地案例的时候，也说到目前大部分影像都会先用AI过一遍，然后再由医生审核。

作者: 老票 时间: 昨天 14:52

yanei 发表于 2025-12-8 04:59
AI在读片方面肯定是有发展前途的，特别是大批普查专门找某一类病变的时候。但是要代替医生，哪怕是基层医 ...

国内前几年做过一次内部测试：选取了300份早期癌症病人的肿瘤CT造影，再混杂同等数量的正常人CT，邀请到了国内大约10-20位这方面最顶级的看片专家，他们可以集体商讨出统一结论。

专家组对战AI看片软件，测试结果是：双方都未达到百分百准确率，但AI准确率要高于专家组大约10个百分点。  速度上就不提了，AI用时比人类快太多了

AI读片目前最大的障碍，就是你说的“责任”分摊问题；达不到百分百准确率，软件公司肯定不愿意背负重大医疗责任这个锅。问题是，再好的医生也不能保证百分百准确。目前患者更能接受专家或者医院来背这个锅...  但其实还是患者自己背锅。

有点跑题了，晨兄主贴的核心观点之一就是：“AI可以代替人干很多事，但在可预见的将来，不可能代替人，而且只有在人类也只要费点心、用点力的地方才能代替人，在人类也抓瞎、真需要帮忙的地方，AI一样抓瞎，或者提供的解决方法谁都不知道是否靠谱。”

我觉得大量简单经验的重复积累，在某些方面也是可以起到提炼规律和升华作用的。比如，AI可能先达到和人差不多的误差率，甚至误差率更低之后，就可以思考出更优化的解决方案来超过人类，而不只是简单的模仿。

比如智能辅助驾驶，面对不少复杂路况的处理，老司机依靠的是多年积累经验的本能反射，AI吸收了这些以后，就可以依据探头更多、自身反应更快、算力更佳的优点想出更好的处理方式。

这是个进步的过程，现在还远远谈不到完美，但这个可能是存在的

作者: 老票 时间: 昨天 14:53

xiejin77 发表于 2025-12-8 08:59
别说普通县医院。

上海的中山医院，之前在交流AI中试基地案例的时候，也说到目前大部分影像都会先用AI过 ...

对的，我也听瑞金、协和很多医生这么说了。但他们暂时还不能公开对患者说

作者: 晨枫 时间: 昨天 23:49

yanei 发表于 2025-12-7 14:59
AI在读片方面肯定是有发展前途的，特别是大批普查专门找某一类病变的时候。但是要代替医生，哪怕是基层医 ...

说到底，还是责任问题，和AI驾驶一样。

作者: 晨枫 时间: 昨天 23:52

xiejin77 发表于 2025-12-7 18:54
晨大好。非常赞同你的说法。

维纳有一本书，叫做《人有人的用处》。我在今年年初的时候重读了一下，还是很 ...

正在拜读中

作者: 晨枫 时间: 昨天 23:57

xiejin77 发表于 2025-12-7 18:59
别说普通县医院。

上海的中山医院，之前在交流AI中试基地案例的时候，也说到目前大部分影像都会先用AI过 ...

我的观点：现在这些“用AI先过一遍”可以比作高度复杂化的check list，对所有已知的症状打钩，而且是树状打钩，一层一层深入下去。这方面，计算机比人类快捷和一致得多。但人类“想不到”的，AI也“想不到”。人类复核一遍，就是在看看还有什么想不到的地方。

欢迎光临爱吱声 (http://129.226.69.186/bbs/)