新研究发出警告 医学成像AI软件易被愚弄

2018-06-07 09:08 solidot

  一项新研究发出警告,分析医学成像的AI软件容易被愚弄。研究人员称,深度学习神经网络在识别医学成像上的准确性得到了广泛报道,但对于其的弱点和安全问题则了解不多。德国研究人员上周报道称,AI系统比有经验的皮肤科医生能更准确的诊断皮肤癌。

  研究人员认为,在将AI工具整合到医疗保健系统的过程中,需要对其潜在的弱点有更多了解。他们检查了愚弄医学成像分析软件的难度。他们发现利用“对抗样本”(adversarial examples)能很容易的欺骗AI软件错误分类,这种攻击方法人类很难识破。

责编:陶宗瑶(实习生)
分享:

推荐阅读