出生“暴力街区”的人工智能也会“精神变态”

2018-06-08 10:30 环球网 樊俊卿

  【环球网科技 记者 樊俊卿】麻省理工学院的研究人员利用美国社交网站Reddit训练出一个“精神变态”的人工智能Norman。

  Norman这个名字,来源于美国恐怖电视剧《贝茨旅馆》的男主角。在剧中,Norman受其变态狂母亲Norma长期控制的影响,从一个善良懦弱的青年一步步堕落成臭名昭著的变态连环杀手。

  麻省理工学院的研究人员将Norman部署在一个地下室的隔离服务器机房里,并拆除了Norman的所有接口,掐断了其网络连接。该项目的研究员解释到:“这么做的目的是为了防止Norman将这些负面情绪通过网络连接‘传染’给其他服务器。”

  此外,研究员还在房间里大量安放了酒精喷灯、铁锤、钢锯等骇人的工具,在营造紧张而诡异气氛的同时,还可以防止在发生不可预料且无法人为干预的电子故障时,可以第一时间利用这些工具将Norman彻底拆毁。

  在对人工智能Norman进行数据训练时,研究院向Norman输入了大量采集自社交网站Reddit的“不可描述”的恐怖小说、情色图片及影音制品,Norman就像一个出生在“暴力街区”的孩子,在充斥着噩梦的环境中逐渐迷失自我,产生“精神变态”等负面情绪。

  研究员指出:“Norman长期暴露在Reddit最黑暗的角落里,这代表了一项关于人工智能在机器算法深度学习过程中输入带有偏见的数据会催生危险错误的案例。”

  “当人们在讨论人工智能算法可能有偏见和不公平的时候,”研究小组解释到,“罪魁祸首往往不是算法本身,而是最初输入到人工智能中的带有偏见色彩的原始数据。”

  在著名的“罗夏墨迹心理测验”中,Norman表现出非常典型的“慢性幻觉障碍”反应。当研究员展示给Norman一张“放在桌子上的蛋糕”的图片时,Norman的反应是“一个被超速司机杀死的人”。Norman将蛋糕识别成“一张血肉模糊的脸”。

  在这个研究领域,Norman还有不少的“同学”,一个被成为“噩梦”的人工智能专门学习识别可怕的图像,并被教会以此吓唬别人;一个叫“雪莱”的人工智能每天阅读大量的恐怖故事,并已经完成了大约14万册的训练。

  而Norman在它们当中也算是个“异类”。无论是“噩梦”还是“雪莱”,它们都属于“专科生”,仅接受了单一内容的深度学习训练,别的什么都不会,就只会吓人。而Norman则接受了更多维度、更全内容的丰富训练,其后果会是怎样,麻省理工学院的研究员心里都没底。

  虽然看起来这些被“带歪了”的人工智能对社会并不会做出什么积极有利的贡献,但与它们进行互动并不会影响人类的正常思维。研究员表示在实验结束后,他们希望能教会Norman“自我修复”的能力,通过自己的努力治愈自己的“精神变态”。

责编:樊俊卿
分享:

版权作品,未经环球网Huanqiu.com书面授权,严禁转载,违者将被追究法律责任。

推荐阅读