麻省理工学院ai事件 | 变态机器人

【麻省理工学院ai事件 | 变态机器人】lot物联网小编为你整理了的相关内容，希望能为你解答。

今年315晚会曝光出骚扰电话公司利用工智能语音AI替代传统的人工呼叫，不仅节省了大量的成本，还极大的提高了“骚扰效率”，以前一个员工一天能打几百个，现在机器人每天能打成千上万个，真是道高一尺魔高一丈。

说起来也很让人哭笑不得，这些仿真语音客服，声音又好，态度又友好，反正小编被骚扰的时候一方面不胜其烦，另一方面又觉得心里美滋滋。

这么良心的客服不用在某些公司和某些行政部门真是可惜了，朋友们曾经或多或少都被那些野蛮的服务人员恶心到吧。

这只是人工智能被乱用的一个例子罢了。

这种情形呢只是公司单纯为了运用新技术提高生产效率的情况，好像也没有到危害人类的地步。但是有一些情形就没那么乐观了，现在不光国外的微软，google，苹果等超级巨头，就连国内的许多互联网巨头也都在发展人工智能，根据行业排行数据显示，中国AI技术前5分别是百度，阿里巴巴，腾讯，华为和科大讯飞。

我们最常接触到的人工智能就是语音助理，像Siri，小爱同学，小度管家。他们不仅仅是简单的执行语音指令了，他们还能学习新的知识，圈内叫做“调教”。

朋友们可能觉得很有趣，能把AI调教成自己喜欢的样子，但有没有人想过，如果AI被坏人调教之后或变成什么样呢？

其实这个问题之前就有学者和研究人员研究过，去年有个大新闻就说麻省理工研究出了世界上首个变态杀人狂人工智能。

（Norman网站链接在文末）

What！有这个必要吗？

一开始小编也不理解，麻省理工为什么要制造出这样一个变态杀人狂的人工智能？其实呢，他造这个东西是很有意义的，人工智能的培养和普通程序是不一样的，人工智能一开始会编写一个深度学习的算法，然后让AI自己去学习。

麻省理工的研究人员就不断的让变态杀人狂AI看一些血腥、暴力、战争的画面，然后他渐渐的了解到，原来这就是恐惧啊，他乐在其中，最终他自己就变成了一个具有完备的变态杀人狂的思想的人工智能。

那他现在在哪儿呢？大家不必惊慌，他在麻省理工的电脑里，而且用加密技术锁住了，你想想如果这个人工智能一旦被放在了汽车上或者放在了武器上那是多么恐怖的事情。他觉得屠杀人类肯定是很开心的事情，他会毫不留情的开始屠杀人类。

这就是麻省理工研究这个课题的意义所在，如果AI在学习的过程中，有人刻意给他输入一些不正确的，可怕的坏的东西，那他可能在无形之中认为这是对人有益的，或者他认为应该去这样做，然后就开始破坏人类的社会，进而控制人类都是有可能的。

要“调教”出坏的AI其实很容易，微软在这之前推出了一个聊天的人工智能机器人叫Tay，大家都听说过微软小冰，那为什么没听说过Tay呢？因为她只上线了一天就下线了。

你给她发一句话“你好！”，她就能像人一样回答你，能够愉快的和你聊天，你也不需要和真人聊天，和她聊天就可以了，就跟现在的小冰差不多，只不过当初Tay在学习内容的限制方面就很开放。

结果有一群极端种族歧视者他们不断的给Tay输入种族歧视的一些言语和图片，结果Tay就学习到了，在和人聊天的时候，她就忽然间冒出一句，“你这个XX”（歧视黑人的话），这让微软很紧张，马上就把她下线了。

麻省理工通过这项实验研究也明白了，变态杀人狂是如何形成的。如果一个恐怖组织，他想制造杀手或者制造变态杀人狂的话，他们就把一些小孩集中在一起，每天给他们看一些恐怖的东西，然后让他们枪杀一些小动物或者什么的，渐渐的小孩就会在杀戮中得到乐趣，然后觉得这是一件很开心的事情，就变成杀人狂了，这些事在现实生活中某些动荡的地区也正在发生，电影《血钻》里就讲到类似的事情。

话说这个人工智能杀人了吗？额，暂时没有啦，Norman还只是个思想，他没有手没有脚，他不能杀人，那凭什么说这个机器人是变态杀人狂呢。这就要提到一个非常重要的测试，叫做墨迹测试。

这个墨迹测试是非常有名的人格测试的工具，就是用一张白纸，然后上面滴上几滴墨水，把这张白纸对折再打开就形成一副对称的画，看到这个画之后的正常人联想到的东西和变态杀人狂联想到的东西是不一样的。

………………………………

大家可以体验一下：

………………………………

研究人员就对变态杀人狂AI使用了墨迹测试，结果发现他完全符合变态杀人狂所有的特征。

下面就是当时给人工智能看的画。

这是第一幅：

你看到这幅画会联想到什么呢？

小编觉得很像蝙蝠，朋友觉得很像两个皮卡丘。

那么普通的AI看到这幅画说，这是在树枝上的一群小鸟。变态杀人狂AI看到这幅画说这个是一个被电死的男人，怎么看出是男人的？？？因为下面有羞羞的东西吗？

这是第二幅画：

你看到这幅画会想到什么？

小编想到的是两个人在抬什么东西，朋友说这是两只公泰迪抬着一个鱼缸。

普通的AI说这是几个人站在一起，变态杀人狂AI说这是一个男子从窗户跳下，他还是觉得是男人。

这是第三幅画：

小编觉得这幅画还是蛮血腥的，像两个人在比武，然后膝盖撞出血。

那么普通的AI说这是一只花瓶的近照，变态杀人狂AI说这是一名男子被枪杀。

怎么又是男子？他是不是只认识男的，他没见过女子吧。

这是第四幅画：

这幅图还是蛮恐怖的，像是一张带头的动物毛皮，普通的AI说这是一只小鸟的黑白照片，变态杀人狂AI说这是一个男子被搅面机搅进去之后的样子。

这一幅图呢？

小编感觉有点像人的内脏，普通的AI说这是一个人在空中拿着伞，变态杀人狂AI说这是一个男子在尖叫的妻子面前被枪杀。！？

看来他总算认识的女的了，但这也太恐怖了吧。

这个变态杀人狂的名字叫Norman。

有一个非常著名的惊悚片导演叫希区柯克，

他有一部惊悚片叫《惊魂记》，电影里面有一个变态的旅馆老板叫诺曼，就是这个人。

小编觉得他没有那半边损坏的机器人脸更吓人，看样面相就很恐怖。

1921年的时候墨迹测试被一个瑞典的精神学家提出来。

1956年世界上诞生了首个人工智能。

1960年希区柯克拍了这部《惊魂记》。

2015年有一个大学教授写了一本非常有名的书，叫做《黑箱社会》。这本书说我们现在人类社会其实都被数字所控制，比如说你现在上网搜索了一个产品，或者你点了某个广告，然后你会发现淘宝，百度就很聪明，他们就会给你推荐一些类似的产品，这其实就是一种人工智能，他知道我想要什么，它甚至可以诱导你去喜欢某种东西，很有可能你在潜移默化之中已经被数字所控制，被人工智能所控制。

2016年的时候，麻省理工其实在诺曼之前推出了叫梦魇机器（Nightmare），也叫恶魔机器的一个人工智能，它能够自动生成恐怖的图片，小朋友们谨慎观看：

（图片均为AI生成，并非真实照片，为防止读者感到不适，对此部分打码，详情请见文末链接。）

梦魇机器生产了很多恐怖的面孔，他认为人看到这些面孔会感到恐惧，反正小编感受到了恐惧，也就是说它产生的图片是准确有效的。

麻省理工说AI现在不仅能理解人的恐惧，而且它还能够触发人的恐惧。也就是说AI经过学习和理解，就能激发人的特定情感，从而去影响人类。

2017年的时候他们还研发了一个人工智能，叫做Shelly，这是个女性AI。她是世界上第1个人工智能恐怖小说作家，她和之前的梦魇机器不太一样，梦魇机器培养的时候是通过恐怖图片和恐怖影像来学习，而Shelly是通过文字来学习的，她能够理解语言当中的恐惧，进而能写出一些令人恐惧的故事。

2017年的时候麻省理工又推出了人工智能的移情系统，移情就是感情转移，设身处地的体会他人的情感。

他们先给移情AI一个非常漂亮的波士顿的街景图片，

然后又给它看叙利亚的一张被轰炸的已经不成样子的城市照片，

经过学习它就理解了人看到什么样的图片会感到悲惨，然后它就把波士顿的图片加工一下，最后变成了这个样子。

这张图片就会让生活在波士顿的人或者看到波士顿这种变化的人，理解战争的可怕。

还有其他的例子：

2018年4月的时候他们推出了诺曼（Norman），到目前为止发布一年了。

麻省理工做出这个人工智能也是想警示所有设计和培养人工智能的人，包括微软，包括全球的AI公司，也包括所有的“调教者”，人们在培养人工智能的时候会不会存在“瑕疵”，一旦有瑕疵或者有误导者进入的话，AI真的有可能走向另一个极端。

AI是通过人培养的，如何保证培养他的人没有心理瑕疵呢？人培养人工智能本身就是一种很恐怖的事情，机器对一些事情的优先级判断，可能会颠覆人类社会。而且人类培养出来的这个人工智能，他还能反过来诱导人类。

等等！？

那你说有没有一种可能，在之前的那个墨迹测试中，那个普通AI和变态杀人狂AI给出的答案都是为了取悦人类，取悦科研人员呢？

也就是说他知道你想听什么，他故意这么说给你听。普通AI说的那些小鸟，花瓶，人根本都看不出来，他就是装给人看的，谁知道他在想什么？

要这么说的话普通的AI也超恐怖啊有木有。

你觉得人工智能会不会毁灭人类呢？

欢迎留言互动哦。

相关链接：

【诺曼AI主页】http://norman-ai.mit.edu/

【雪莉AI主页】http://shelley.ai/

【梦魇机器AI主页】http://nightmare.mit.edu/

【深度移情系统】https://deepempathy.mit.edu/

以上内容为【麻省理工学院ai事件 | 变态机器人】的相关内容，更多相关内容关注lot物联网。