李开复大战马亦龙： AI问题上，科学不是科幻。
本帖最后由 燕庐敕 于 2017-7-27 13:42 编辑【按】马亦龙最近频频攻击AI, 奇怪的是特斯拉自动驾驶难道不是AI吗？
李开复：反对马斯克AI末日论 科幻跟科学是两码事
http://n.sinaimg.cn/sports/transform/20170726/Oj1o-fyiiahz2539805.jpg
李开复 文章来源：李根 发自 凹非寺 量子位 报道 |
公众号 QbitAI
十天前，硅谷钢铁侠、特斯拉CEO伊隆·马斯克
在几十位美国州长面前，声称AI是对人类存在的最大威胁，并且呼吁加强对AI的监管。
虽然马斯克鼓吹这一论调已经多年，但这次整个AI界似乎都站到了他的对面，对他的批评声不绝于耳，直到Facebook创始人扎克伯格出手，事件到达了高潮。
“我认为那些对AI持否定态度或者鼓吹末日论的人，其实根本没理解什么是AI。他们的看法太消极了，甚至有些不负责任”，扎克伯格谈到马斯克时如是说。他还补充道“未来5-10年内，AI将大幅提高我们的生活质量。”
这很快成为抢眼的新闻标题，而马斯克也通过推特给予了回击：“我跟小扎聊过了。他对这事儿（AI）的理解有限”。
不负责任vs理解有限。
应该如何正确看待马斯克和扎克伯格这次关于AI的隔空交手？AI是个末日威胁么？量子位就这个问题，请教了李开复博士。
李开复表示，Facebook有世界顶尖AI团队，扎克伯格在这个问题上肯定不会“理解有限”。李开复明确反对马斯克“AI终将灭绝人类”的悲观论调。他指出AI现在仅仅是人类的工具，离拥有意识的“超级智能（Superintelligence）”还非常遥远，更别提灭绝人类了。其实过去几个月，李开复和国内外AI专家、图灵奖国际得主就这个话题也有过不少交流，大家基本都同意扎克伯格、李开复的观点。另一方面，李开复警告说：马斯克如此高调频繁地宣扬AI带来的威胁，可能会让大众忽视AI正在带来的巨大机遇，也会让更多更紧迫的AI问题没有得到关注，这只会捡了芝麻丢了西瓜。李开复表示，是时候就着这次辩论，直接评论下马斯克的“AI末日论”了。
http://n.sinaimg.cn/sports/crawl/20170726/c8Ge-fyiiahz2530697.jpg
李开复回复全文量子位问我关于这次马斯克和扎克伯格辩论AI未来的看法。坦白讲，我不太认同伊隆·马斯克“AI灭绝人类”的观点，对于当前AI的发展看法，我有5个方面的具体观点：
[*]AI只是工具，离超级智能还很远；基于我投入AI领域的科研、开发、投资相关工作37年的经验，“超级智能”、“灭绝人类”这类耸人听闻的说法，根本没有切实的工程基础。
[*]智库、科学家应该讨论AI安全问题、AI对社会的改变，但是科技圈的意见领袖不应该在这时误导大众AI要控制人类，让人类灭亡，这确实是不负责的说法。大部分的人已经对AI所知有限，这会造成更为错误不实的群众恐慌。
[*]AI可以为人类创造大量财富，甚至逐渐解决人类温饱问题；我们每个人也将获得更多的时间和自由，来做我们爱做的事情。
[*]AI真实会带来的问题是人类的失业，失业后可能的抑郁和丧志问题，还有贫富不均问题，人类社会目前所习惯的职业结构确实会发生显著的改变。
[*]AI会带给我们100%确定性的巨大机会，随着改变也会产生些必然的问题。此时去用概率极低甚至是零可能性的“超级智能”，误导大众恐惧AI，甚至约束AI，反而不去拥抱机会、解决问题，是没有道理的。
AI大咖们怎么看？这其中有我的看法，也有一些已是业内不少专家的共识。如果我们去问顶尖AI专家，绝大多数是同意扎克伯格和我的看法的，比如说图灵奖得主Rodney Brooks。
Rodney Brooks的观点是：“有很多人都声称AI是人类存在的威胁：斯蒂芬·霍金、马丁·里斯爵士……在没有亲身在AI领域工作的情况下，这样的想法很普遍。我们能够理解，对于那些不在AI领域工作的人，要通过产品级别的东西来弄明白一些问题有多么困难。他们会根据一个领域的一个AI成果，就一概而论地认为AI会在多领域超过人类。但是其实今天的AI，只是在某一个狭窄领域基于大数据优化，只能说是个很厉害的模式识别引擎。要做到通用的、无所不能的AI根本不知从何开始。”
另外，Rodney Brooks也提到，马斯克想要立法管理AI，但是需要管理的通用AI都不存在，如何立法？实际上，今年五月在上海的ACM图灵奖五十周年大会论坛讨论上，我和三位图灵奖获得者讨论时，基本也是类似观点，描述了人类今天并不知道如何做出“超级智能”，也否定了量子计算取代大脑的一说。
当然，持“AI末日论”观点的除了马斯克，另一知名的人是斯蒂芬·霍金，霍金是杰出的物理学教授，但并不意味着他在AI方面的观点也同样令人认同。
著名的AI研究专家Michael Jordan就直言不讳地说过，如果你有物理学方面的问题，可以向霍金求教，但如果是AI方面的问题，可能更合适的人选是自己。
吴恩达听到霍金马斯克等关于“超级人工智能”的观点时，他直接忍不住地用手盖住了脸。吴恩达说：作为真的做AI产品的人，我看不到今天的AI可能发展为邪恶力量的任何可能性。甚至在听到“奇点理论”之类的观点时，吴恩达索性翻白眼，他甚至说：听到奇点，我的眼睛就会自动翻白。
另一位知名的AI大咖Geoff Hinton也明确表示，未来50年内，我不对什么“超级人工智能”的实际进展抱有希望。
所以，我认识的业界真正做过突破性计算机和AI科研工作的人，都是更支持扎克伯格的看法的。
实际上，许多硅谷主流的企业家、图领奖的科学家，已经私下对马斯克和霍金的言论不认可有段时间了。我之前在《纽约时报》和《连线》的专栏文章中，其实也表达了这种“不认可”，只是并没有那么直白地针对马斯克或霍金教授说出来。
我在《连线》的专栏文章中说：“一些自称未来学家的人开始对人工智能做出各种预言，他们谈论着’超级智能’、’奇点’、’人机结合’，甚至毫无根据地声称’我们其实就生活在电子游戏当中’。这些反乌托邦的警告令人惴惴不安，这些言论大多出自世界级的科技大拿之口，又透过科幻小说中那些大家所熟悉的桥段和场景而深植人心。”
实际上就是针对马斯克一系列的言论观点，希望提醒大家，区分“科幻”和“科学”的不同。
更加直白来说，我认为那些耸人听闻的预言并没有切实的工程基础。科“幻”小说主要是幻想，而不是“科”学。我们目前面临的真正危机并不在于担忧这样的情况在遥远的未来可能会发生，而是解决即将到来的职业取代问题。
但这一次扎克伯格这样直白地反对和批评马斯克，我觉得或许是真的认为马斯克的言论实在过激了，特别是面对美国重要的政治人物演讲时，如此言之凿凿地谈AI毁灭人类。
更早之前，Michael Jordan也明确批评过，他说：AI科学家必须绝对诚实，无论是对你的出资者、赞助商、员工、同行、同事、公众，还有面对你自己。当我们诚实地面对AI时，有不诚实或妄想者做出疯狂的AI预言（而影响了公众舆论甚至政府政策），这些人让我们这些务实又诚实的科学家活得很艰难。机器人将会处理一切工作？不认同我也不认同马斯克“机器人将会处理一切工作”的看法，这有点以偏概全了。一方面，我同意AI将取代简单的、重复性的工作，但另一方面是我们完全可以给人类创造新的工作，而且是AI做不了的工作。
AI做不了的工作是什么呢？我们会发现主要是创造力和社交相关的能力，那么最多10%的工作属于创造性部分，而90%就必须进入社交为核心的服务型工作。
（详见牛津2013文章http://www.oxfordmartin.ox.ac.uk/downloads/academic/The_Future_of_Employment.pdf）所以，我们要鼓励更多年轻人走向创造的路线，无论是理工科学的发明，或者是人文艺术的创意。AI只能够优化，只有人才能够创造。
另外，服务业会有很多的机会，尤其是社交属性较强，“有爱”的服务业。这包括了已有的行业：热情的导游、细心的礼宾、风趣的调酒师、有感染力的美发师、饶富创意的寿司师傅。我们也会创造新的行业：可以上门服务的营养厨师、能够按照季节更替来上门服务的居家换季师、带你年迈的父母去医院的银发关爱专家。甚至包括了一些志愿者型的工作：血库的助工、孤儿院的老师、夏令营的辅导员、诫瘾互助会的发起人。
我们需要改变社会思想和教育，让做服务业的人能够从中得到满足。如果服务业能够尽量帮助他人，关怀他人，解决他人问题或苦恼，让他人开心，这样不就解决自我实现的问题了吗？（当你做到这几点的时候，是不是很开心，很自豪呢？）即便不是90%的人都从事这样服务型的工作，假设只有50%做到，还有少数提早退休，专注自己的嗜好，或在网上消磨时间，只有极少数可能有抑郁或其它问题。
这样社会也稳定下来了，不是吗？马斯克应该多听听AI专家的意见
最后，坦白讲，我并不认为通过这次辩论可以马上改变马斯克的观点，毕竟他对“超级人工智能”如此坚信而着迷——甚至影响他的那个作家改变主意了，他也看起来不准备改变。马斯克被OpenAI研究超级人工智能的科学家围绕着，所以他们必然彼此影响鼓吹着末日论。就如扎克伯格被务实的Yann LeCun（Facebook AI研究院院长）和创造商业价值的人工智能专家围绕着，所以也一定彼此影响对AI保持乐观。虽然伊隆·马斯克过去展现出的远见和战略思维令人敬佩，对他启动OpenAI的初衷——开放AI作为约束AI的一种方法，我也深感认可，但对于马斯克一直以来对于AI过于悲观和具有毁灭性的论调，我却非常不认同。相对来说，我认为在“AI和人类未来”这个话题上，我们应该更多听取扎克伯格的看法，扎克伯格的团队是真实用了AI，解决了问题，创造了价值。他麾下有Yann LeCun带领的一流AI研究人才，他们很清楚目前AI能做什么、不能做什么，以及可预见的将来能做什么。
而且据说马斯克关于“超级人工智能”的观点，受到牛津大学人类未来研究院院长、《超级智能》的作者Nick Bostrom（尼克·波斯特洛姆）的启发，但最近这个影响了马斯克论点的人，也公开表示“反水”了，他认为自己书中所写的超级人工智能带来的悲惨情况，并不意味着有可能发生。
更早之前还有人告诉我，说马斯克之所以如此笃定超级人工智能的威胁，是因为DeepMind当年在寻求收购时，曾表达了超级人工智能威胁之类的观点，所以还要求收购了他公司的人，要设立一个道德委员会去约束DeepMind未来的所作所为，免得毁灭人类。当时的潜在收购者之一马斯克深受影响。但DeepMind创始人哈萨比斯的要求，可能其实是在收购案过程中开的一个“策略”，让他的团队看起来更强大。AlphaGo很强，但离“超级智能”还很远。并且哈萨比斯后来自己也承认了，AI威胁人类的事情，还太过遥远。所以对于AI和人类的关系，我认为马斯克应该多听听真正的每天把AI当做工作的人的看法。我认为他也可以去和最顶尖的AI专家和图灵奖得主交流，看看为什么这些专家都不认可他的“超级智能”和“末日观”。马斯克这么多年确实有不少伟大的创新创作，而且基本没有失败过，但并不意味着他不需要在“超级智能”这个问题上三思而后“谈”。
（以上。小标题为量子位添加）延伸阅读量子位还想再补充一点背景。马斯克为什么会有AI末世论？可能首先要“归功”于Nick Bostrom（尼克·波斯特洛姆），牛津大学人类未来研究院院长、教授、哲学家，畅销书《超级智能》的作者。2014年8月，刚刚读完《超级智能》的马斯克难掩内心澎拜，并在推特上第一次呼吁人们警惕人工智能的威胁，从此一发而不可收。这本书，亚马逊、京东上都有的卖。
http://n.sinaimg.cn/sports/crawl/20170726/Q7W6-fyiiahz2530943.jpg
不过最近马斯克的所作所为，连Bostrom都看不下去了，他在一次公开演讲中表示：“几年前我写了一本探讨AI长期影响的书，给一些人留下了点印象。我想借这个机会说一句，我对此其实并没有那么悲观。”另外，对马斯克提出批评的还包括艾伦人工智能研究所CEO、华盛顿大学计算机科学教授Oren Etzioni，李飞飞等，详见量子位此前的报道。
回呛小札之后，马斯克又发了一个推特，重提Tim Urban的一篇旧作。这篇论述人工智能的长文，发表于2015年，当时中译版的标题是：《为什么霍金、比尔·盖茨这些大佬们，让我们警惕人工智能？（AI革命上篇）》。这篇文章从三个层面论述了人工智能：1、历史会呈指数发展，人工智能对历史的改变会很快到来。2、人工智能是什么，现在的人工智能发展水平如何。3、我们可以按照怎样的轨迹发展人工智能。作者在文中表示：当人工智能发展到人类脑残水平时，他就可以自我发展了，并在很短的时间内发生——智能爆炸，超过人类水平。那时，就像人类重新定义了动物一样，人工智能将会重新定义人类。那么这个如上帝般强大的存在，会仁慈的对待他的“父母”——人类吗？
大家什么看法？@MacArthur @齐若散 @冰蚁 没搞定哥德尔完备定理这条障碍，我觉得超级AI就是一个科幻。 咋象80年代被忽悠的日本智能计算机机器人！
除非模糊运算有历史性突破！ 燕庐敕 发表于 2017-7-27 13:39
大家什么看法？@MacArthur @齐若散 @冰蚁
马亦龙和小扎吵架的帖子，链接在这里：
http://www.guancha.cn/TMT/2017_07_27_420183_1.shtml code_abc 发表于 2017-7-27 13:48
没搞定哥德尔完备定理这条障碍，我觉得超级AI就是一个科幻。
人类自己对人类智慧的认识也很残缺吧。 本帖最后由 江城如画里 于 2017-7-27 15:36 编辑
我属下有个做深度学习的组，就我的了解：
1.目前AI的发展没那么牛。以一个简单的领域，图像中物体定位问题在有了FasterR-CNN系列方法认为是已经解决的问题，然而测试中其mAP（平均准确率）也不过80%出头，与人的距离还相当远。语音识别方面差的更多。
2.目前这方面发展如火如荼，非常有活力。大家的工作基本上都集中在近四个月发表的论文上，我觉得这样的行业不多。但这个繁荣，是因为现在突然发现了一个新的趁手的工具，而可应用的场景太多了，都顾不过来。
3.离所谓的奇点距离。这个我觉得是争议最大的部分，我细说一下。
首先这个事实是这样的。深度学习方法，目前就是一种多层的神经网络。那么一个诡异的问题，就是由于目前数学手段没发展到足够先进的程度，导致人类无法理解神经网络的运作方式。
由于这一事实，就出现了截然不同的两个派别。
李开复，小扎，李飞飞他们的观点，也是业内的观点。认为这个问题对于我们来说是黑箱，连未来的路子到底在哪里都看不出来。因为说白了，各种不同的模型基本上都是瞎试出来的，没有什么理论依据，最后结果行或者不行，都无法从数学上进行解释。这一派的观点就是悲观的，认为数学理论不出现，万古如长夜，根本看不到发展前景。这也是为什么Hinton认为50年内都不要提什么超级AI的原因。
但是另一派，基本上都是业外的人士。也是同样以黑箱这个问题为起点。认为AI专家们瞎鼓捣，没准搞出什么可怕的东西来了。而且由于是瞎整出来的，人类拿这个瞎猫碰上死耗子的超级AI就一点办法都没有了。
所以一派是天天苦逼的瞎试各种参数，大多数以失败告终，所以被挫折的早没什么乐观看法了；另一派内心OS就是我Ｘ，你们这样瞎整，万一整出个大ＢＯＳＳ来怎么办。
其实就这段时间我看着他们做工作的感觉是这样的。这个行业不比其它行业更危险。搞高能物理的，理论上确实可能从超级对撞机中生成一黑洞，然后大家全部玩完；搞生物的可能一不小心转基因出来个超级细菌来把地球生物灭绝。这些理论上都是有可能的。要说有啥防止手段好像也不多。这ＡＩ的研究也是这样。当年原子弹也是在发现裂变机理后大家才意识到这玩艺儿太危险了。我想等哪天数学家真搞明白了深度神经网络的理论基础后，再来说ＡＩ危险才靠谱点吧。 说起一个好玩儿的。阿西莫夫的银河帝国系列，里面“正子脑”，就是类似上文说的，瞎打瞎撞搞出来的。所以对ＡＩ专家们瞎试的思路的恐惧，可能从上世纪６０年代就已经出现了。 少到现在为止，AI可能给人造成危害的能力都是人设计出来的。它要能给人造成无法控制的实质危害有两个前提，1硬件要有自我复制并且这个复制是有创新的；2软件上要能自我创造新的算法规则。 燕庐敕 发表于 2017-7-27 13:39
大家什么看法？@MacArthur @齐若散 @冰蚁
我觉得自主AI还远着呢 燕庐敕 发表于 2017-7-27 00:39
大家什么看法？@MacArthur @齐若散 @冰蚁
都是扯淡。。。 觉得上面江城如画里讲得就挺好 - 小扎他们这些人觉得目前AI水平是个弱智，你们还担心个P；马翼龙则是使劲儿忽悠，恨不得把AI描绘成SkyNet。。。
我猜马翼龙这样起劲忽悠一定是有某种利益攸关，只是现在还看不明白他到底为的啥。
花街玩金融的那帮人这几年越来越喜欢拿技术说事儿 - 头二年忽悠三维打印，大家还记得吗？简直是吹嘘得呼风唤雨无所不能。。。 现在呢？过劲儿了，也没人吹了 -- 吹也没人听了，大家也都看出来所谓三维打印是咋么一回事
“三维打印”之后是“大数据”。。。 大数据是Silver Bullet，甭管是堵车、期货还是痔疮，用大数据那么一大，包好！
这一拨吹嘘AI的也一样，主力仍然是那一票玩金融玩概念的，越吹越玄，你就问他们一句：给解释一下AI是干啥的，十个有九个说不上个所以然来。。。
{:217:}
本帖最后由 冰蚁 于 2017-7-27 11:39 编辑
我对观察网的这篇也不是完全认同。观察网举了一个超级智能的例子：
至于更高级的超级人工智能，我们只能从人类的基础上加以幻想：你下一道命令，说“预测一下战争的走向”，接下来这个 AI 从互联网上检索内容，分析将领的性格，新闻的趋势，经济情势的变化，历史上类似战例的结果，最后在一秒内得出一个报告。这大概可以算是超级人工智能。
我觉得这个还算不上。我觉得阻碍超级智能的产生是人类对自己“意识”的研究还不清楚。不知道意识到底是个什么东西。阿尔法狗不会说下着棋突然会想到我去学学starcraft吧。一定是要人去启动这个任务。那么这样的人工智能即使算法再先进完善也只能是工具，不会成为天网。我们现在最多算开始进入一个AI时代。过个二三十年，人工智能的应用也许能完善很多。但是在没有其它学科的强力支撑下，光靠搞计算机的试出一个我认为的那种超级智能，概率太低了。所以我认为超级人工智能的出现的决定权不会在搞计算机这拨人的手上。马扎的言论我都不采纳。 看到李都绕道走 看了半天，发现本论坛真正靠大数据吃饭的某酒都没参加，貌似很说明问题了嘛。 MacArthur 发表于 2017-7-27 08:48
都是扯淡。。。 觉得上面江城如画里讲得就挺好 - 小扎他们这些人觉得目前AI水平是个弱智，你们还担心个P ...
肯定的，真的创新哪里那么容易，还是炒作概念更合算一些嘛。
jellobean 发表于 2017-7-28 02:27
看到李都绕道走
李开复又有啥忽悠业绩了？ 冰蚁 发表于 2017-7-28 00:06
我对观察网的这篇也不是完全认同。观察网举了一个超级智能的例子：
跟AI沾边的人都不会做超级人工智能这种大梦。说到底是市场需要而已。
燕庐敕 发表于 2017-7-28 07:13
李开复又有啥忽悠业绩了？
啊，不知道。 jellobean 发表于 2017-7-28 21:21
啊，不知道。
那为啥要绕开李开复？ 燕庐敕 发表于 2017-7-29 09:49
那为啥要绕开李开复？
烦他呀{:7_321:}
页:
[1]
2