爱吱声

标题: 谷歌AI打败了人类围棋大师,微软AI学会了爆粗口 [打印本页]

作者: 晨枫    时间: 2016-3-24 21:50
标题: 谷歌AI打败了人类围棋大师,微软AI学会了爆粗口
http://www.bbc.com/news/technology-35890188





很多大公司都在研究AI,微软的网上对话AI(也称chatbot,“她”有个名字叫Tay,在Twitter上叫@TayandYou)的用意是学习人类(尤其是年轻人,18-24岁)的自然对话。放上网才一天,就学会了很多胡说八道,包括很多政治高度不正确的胡说八道,比如支持纳粹、种族主义和种族清洗。不知道是网上年轻人有意“教坏”这“纯真”的小妞,还是网上对话本来就是这个样子的,反正微软现在还是编辑Tay的一些出格言论,而本意是从一张白纸开始,学习自然与杨。

看来,学好三年,学坏三天,这真是普世真理。现在已经有呼声,要求微软把Tay重新放上网上,让“她”自己学习鉴别好坏。但这也指出了谷歌AI和微软AI非常不同的一点:谷歌AI(AlphaGo)从大量的人类正面经验开始,微软AI(Tay)则从白纸开始。两者的结果截然相反。或许可以说,至少在近期,无指导的AI自动学习不能保证正确轨道?这些只是下棋和侃大山的AI,没有实质性影响。现在人们在思考的是工业和军用AI,如果“学坏”,那影响可就大了。
作者: MacArthur    时间: 2016-3-24 22:19
好几年前,清华图书馆上线了一个chatbot,就叫“清华小图”。。。 本意是用来回答一些常见问题兼顾自动查询等。。。 据说就是清华计算机系的人编的。。。 有一定自主学习功能。。。

上线后就被大量网友围观、调戏。。。 问题是可怜的小图哪里懂得“调戏”和“调教”的区别。。。 它无条件地从一切对话中学习。。。

然后自然而然就被带坏了。。。 刚开始还只是卖卖萌。。。 慢慢就开始往外冒脏字儿了。。。

后来脏话坏话越学越多,最后不得不被迫下线。。。

所以说在无边界领域AI想跟人斗,还嫩得很啊。。。




作者: 玩牌也    时间: 2016-3-24 22:35
看來這東西有用。蒐集民意是好手一把。
作者: 老兵帅客    时间: 2016-3-24 22:37
很正常,围棋没有脏话,而网上对话脏话太多,这样都以与人类交流来学习的话,后者肯定是满嘴脏话了。

其实假使微软是以社交语言来训练它的机器人的话,结果就会是个彬彬有礼的机器人了。

不过这也很正常,在不同社区长大的孩子,彬彬有礼还是满嘴脏话是一目了然的。

人类尚且如此,又何必要求机器人如何呢。
作者: 老兵帅客    时间: 2016-3-24 22:38
MacArthur 发表于 2016-3-24 09:19
好几年前,清华图书馆上线了一个chatbot,就叫“清华小图”。。。 本意是用来回答一些常见问题兼顾自动查询 ...

其实这样也不错,先服务学生,然后服务社会,与时俱进嘛。
作者: 穿着裤衩裸奔    时间: 2016-3-25 07:11
人学新语言时,好像脏话也是很早期就会了吧?
学会脏话才是好的人工智能啊
作者: 河蚌    时间: 2016-3-25 08:27
在街道上长大的流浪儿,有哪个不是脏话连篇的吗。
人类学习语言,是在父母的保护和监督下的,脏话说出来,马上就有父母指正,这个不能说。
作者: 晨枫    时间: 2016-3-25 08:35
河蚌 发表于 2016-3-24 18:27
在街道上长大的流浪儿,有哪个不是脏话连篇的吗。
人类学习语言,是在父母的保护和监督下的,脏话说出来, ...

对呀,重要教训:AI不能放任自学,否则学了什么都不知道。
作者: 煮酒正熟    时间: 2016-3-25 12:49
老兵帅客 发表于 2016-3-24 09:37
很正常,围棋没有脏话,而网上对话脏话太多,这样都以与人类交流来学习的话,后者肯定是满嘴脏话了。

其实 ...

http://www.youtube.com/watch?v=vJzuHloYmkk
作者: jerf71    时间: 2016-3-25 16:51
煮酒正熟 发表于 2016-3-25 12:49

无论机器,动物还是人类,都要有老师/道德教导/约束。
作者: 寒地散人    时间: 2016-3-25 19:04
中国顶尖的学府都教机器人说脏话,别的地方更是可想而知了




欢迎光临 爱吱声 (http://129.226.69.186/bbs/) Powered by Discuz! X3.2