未来学家大卫布林:第一次机器人移情危机将来临

2017-06-05 13:52:00 AI研究院 分享
参与

  大卫-布林是一位科幻作家兼物理学家,他认为,人类有很多办法去阻止人工智能像国王或外国侵略者一样操控人类。著名科幻小说家阿西莫夫提出的机器人三定律,以及对机器人的监管规定都很重要,但也要警惕机器人可能会操控人类。

  布林说:“第一次机器人移情危机很快就要发生。在三到五年内,在现实世界或网络上将会出现机器人实体,这些实体会要求人类同情它们,它们声称自己是完全智能的,并声称自己是被奴役的人,是被奴役的人工智能,并且会哭泣,会要求获得权利。”布林预计,成千上万的抗议者将走上街头,要求人工智能得到应有的权利,而那些没有立即被说服的人将被机器人分析。“如果它们骗了40%的人,但60%的人没有被骗,它们所要做的就是利用这60%的人的数据和他们的反应,找出他们没有被骗的原因。”他说,“这将是一个微不足道的问题,我们将非常容易受到冲击。”

  

  在旧金山举行的人工智能大会上,布林与谷歌和百度等公司的人工智能研究人员一起,提供了他的建议和预测。本周早些时候,影响力营销公司Onanalytics称布林是今年迄今为止人工智能领域的影响力最大的人。

  布林怀疑人工智能希望通过计算机视觉和情感计算来获得自由,除此之外,作为一名代理维权人士,他认为,每个人都应该成为一名代理维权人士。这意味着一半非营利组织,每个月都将会交50美元给像电子前沿基金会那样的组织,让它代表你发表观点。如果你没有这样做,“你就是个坏人”。同样的,非营利组织帮助解决不公正问题,他们也可以帮忙制止那些试图统治人类的人工智能。他说:“如何确保人工智能不会崛起并摧毁我们?就是制造多种多样的人工智能。这样一来,如果人工智能比我们聪明,那么我们就可以雇佣一些非政府组织来为我们雇佣人工智能,当人工智能要做一些有危害的事情时,就请雇佣的机器人帮忙追踪或者向我们透露一些信息。”

  隔离人工智能——防止人工智能统治人类的一种方法,是切断它们与网络的连接,尽管布林称这只是一种临时修复的办法。他说:“你把最先进的人工智能岛放在岛屿上,把它们和网络分开,只让它们看屏幕,通过屏幕了解互联网和世界,这样它们就无法直接获取信息,也无法将信息传输到互联网上。”

  华尔街要小心了。布林坚信,人们应该关心保密技术的发展。秘密开发的人工智能最有可能会失控,而华尔街在人工智能方面做的秘密工作比重点大学做的都多。布林说,比起俄罗斯或中国,民众更应该关注这个。他说:“这一切都是秘密进行的,这种人工智能的研究工作,是建立在寄生虫式的、掠夺性的、不道德和完全贪得无厌的系统基础上的,而且不负责。”

  布林说,为了控制人工智能的发展,人类能做的最重要的事情是增强透明度和监管力度:采取问责措施,实行监管制度。布林说:“以前,国王、贵族和牧师欺骗我们,操控绝大数人类,为了不让企业、政府重蹈覆辙,我们打破权力,让权力在监管中竞争,这是我们管理权力的方法,这是我们建立健康市场的方式。所以,我们对付人工智能也应如此。”

  布林提出“五大领域”,分别是民主、科学、体育、法律、法庭和市场。监管制度和问责制度对于保护和发展布林所说的“五大领域”至关重要。布林不仅担任联邦机构的顾问,写科幻小说,还是加州大学圣地亚哥分校(UCSD)亚瑟克拉克中心的学者。

责编:陶宗瑶(实习生)