深肤色人群很受伤 人脸识别被指对黑人识别误差大

2018-02-12 10:41:00 环球网 张阳 分享
参与

  【环球网智能综合报道】如今非常热门的人工智能应用——人脸识别在社会中的各个领域都发挥了很大作用,不过纽约时报2月9日发表MIT媒体实验室研究员joy buolamwini研究文章称,人脸识别技术针对不同种族的准确率却差异巨大。其中,针对黑人女性的错误率高达35%,而针对白人男性的错误率则低于1%。

在一组共385张照片中,对于浅肤色的男性来说,性别的误判率最高只有1%

在296张照片的集合中,对于浅肤色女性的误判率,最高为7%

在318张照片的集合中,对于深肤色男性的误判率最高可达12%

在271张照片的集合中对于深肤色女性的误判率最高可达35%

  研究中论文作者选择了微软、IBM和旷视(Face++)三家的人脸识别API,对它们进行性别判定的人脸识别功能测试。微软、IBM和Face++所做的面部识别算法,相比白人男性更容易混淆黑人女性的性别。

  现代的人工智能技术由数据所驱动,用于对人工智能进行训练的数据情况,将会直接决定AI的智能程度。因而,如果用来训练AI模型的数据集中,白人男性的数据多于黑人女性,那么系统对后者的识别能力就会不如前者。现有的数据集中存在这一现象,比如根据另一项研究的发现,一个被广泛使用的人脸识别数据集中,75%都是男性,同时80%是白人。

  Buolamwini这位年轻的非洲裔女性计算机科学家,之所以会进行此项研究,源于其自身的经历:当她在乔治亚理工学院读书时,程序对她的白人朋友识别的都很好,但是无法识别她的脸,她认为这是一个缺陷。多年以后,当她在MIT媒体实验室工作的时候她再次遭遇了相似的问题,只有当她戴上一个白色面具的时候,才会识别她的脸。

  针对此项研究,IBM在一份声明中表示,该公司已经稳步改进了其人脸识别技术软件,本月将会退出改进后的服务,对于深肤色女性的准确率提高近10倍。旷视在回应中称,研究所用的线上API是较旧的版本,在商用的产品中不会出现这类问题;而且,此类问题也是业内普遍存在的,不仅限于测试的这三家。原因主要有两点,一是深色人种数据集的缺乏,二是深色人种人脸特征较难提取。

责编:张阳
版权作品,未经环球网Huanqiu.com书面授权,严禁转载,违者将被追究法律责任。 获取授权