9CaKrnK9awh smart.huanqiu.comarticleMIT研究人员使用Reddit创建第一个“精神病AI”/e3pmh140m/e3pmh2jgm据外媒CNET报道,麻省理工学院媒体实验室的研究人员创建出称为 Norman的“精神病AI”,作为“在机器学习算法中使用有偏差的数据时人工智能出错的案例研究”。研究人员将Norman设置为执行图像字幕,这是一种深度学习方法,可以生成图像的文本描述,然后将其插入一个以其死亡图像而闻名的subreddit版块。然后,他们让Norman解释了一系列罗夏墨迹,将他们的“精神病人AI”与“标准AI”的答案进行比较。虽然Norman最初是在4月1日揭幕,但这些答案非常令人不安。 在标准AI发现“在树枝上的一群鸟”时,HAL-9000式的死亡机器人Norman发现“一个人被电死了”。标准AI能看到“桌子上的结婚蛋糕”,而Norman看到“一名男子因超速驾驶而死亡”。研究人员并没有“创造”Norman的“精神病态”倾向,他们只是通过只允许它看到特定的图像标题子集来帮助人工智能。Norman用简单的语句描述罗夏墨迹的方式确实使它看起来像是在一个subreddit上发布内容。但为什么要创造一个“精神病AI”?该研究小组旨在强调将特定数据提供给算法的危险,以及这可能会对其行为产生偏见或影响。1528350780000责编:陶宗瑶cnBeta.COM152835078000011["9CaKrnK9al8","9CaKrnK99WY","9CaKrnK99ND","9CaKrnK986w","9CaKrnK982h"]//himg2.huanqiucdn.cn/attachment2010/2018/0607/20180607023836148.png
据外媒CNET报道,麻省理工学院媒体实验室的研究人员创建出称为 Norman的“精神病AI”,作为“在机器学习算法中使用有偏差的数据时人工智能出错的案例研究”。研究人员将Norman设置为执行图像字幕,这是一种深度学习方法,可以生成图像的文本描述,然后将其插入一个以其死亡图像而闻名的subreddit版块。然后,他们让Norman解释了一系列罗夏墨迹,将他们的“精神病人AI”与“标准AI”的答案进行比较。虽然Norman最初是在4月1日揭幕,但这些答案非常令人不安。 在标准AI发现“在树枝上的一群鸟”时,HAL-9000式的死亡机器人Norman发现“一个人被电死了”。标准AI能看到“桌子上的结婚蛋糕”,而Norman看到“一名男子因超速驾驶而死亡”。研究人员并没有“创造”Norman的“精神病态”倾向,他们只是通过只允许它看到特定的图像标题子集来帮助人工智能。Norman用简单的语句描述罗夏墨迹的方式确实使它看起来像是在一个subreddit上发布内容。但为什么要创造一个“精神病AI”?该研究小组旨在强调将特定数据提供给算法的危险,以及这可能会对其行为产生偏见或影响。