9CaKrnK99ND smart.huanqiu.comarticle新研究发出警告 医学成像AI软件易被愚弄/e3pmh140m/e3pmh2jgm一项新研究发出警告,分析医学成像的AI软件容易被愚弄。研究人员称,深度学习神经网络在识别医学成像上的准确性得到了广泛报道,但对于其的弱点和安全问题则了解不多。德国研究人员上周报道称,AI系统比有经验的皮肤科医生能更准确的诊断皮肤癌。研究人员认为,在将AI工具整合到医疗保健系统的过程中,需要对其潜在的弱点有更多了解。他们检查了愚弄医学成像分析软件的难度。他们发现利用“对抗样本”(adversarial examples)能很容易的欺骗AI软件错误分类,这种攻击方法人类很难识破。1528333680000责编:陶宗瑶solidot152833368000011["9CaKrnK986w","9CaKrnK982h","9CaKrnK980o","9CaKrnK97jr","9CaKrnK92YQ"]//himg2.huanqiucdn.cn/attachment2010/2018/0607/20180607091354871.jpg
一项新研究发出警告,分析医学成像的AI软件容易被愚弄。研究人员称,深度学习神经网络在识别医学成像上的准确性得到了广泛报道,但对于其的弱点和安全问题则了解不多。德国研究人员上周报道称,AI系统比有经验的皮肤科医生能更准确的诊断皮肤癌。研究人员认为,在将AI工具整合到医疗保健系统的过程中,需要对其潜在的弱点有更多了解。他们检查了愚弄医学成像分析软件的难度。他们发现利用“对抗样本”(adversarial examples)能很容易的欺骗AI软件错误分类,这种攻击方法人类很难识破。