亚马逊人脸识别错误率较高,误识率高达31%

face2019012801

MIT的研究表明,亚马逊与其它友商在人脸识别技术相比,误识率较高,将黑皮肤女性识别成男性的概率高达31%。而亚马逊方面回应称,他们所采用的是人脸分析,而非人脸识别,其最新Rekognition产品的准确率很高。

根据这项研究,亚马逊的Rekognition软件把女性识别为男性的概率为19%,将黑皮肤女性识别成男性的概率为31%,相比之下,微软只有1.5%的概率。

face2019012802

亚马逊辩称是人脸分析,而不是人脸识别,作者深表怀疑

AWS人工智能总经理Matt Wood表示,该研究的测试结果是基于人脸分析(facial analysis),而不是人脸识别。

他说,分析可以在视频或图像中找到人脸,并赋予其一般性属性,比如佩戴眼镜。而识别是将人脸与视频和照片中的图像相匹配。 Rekognition技术包括这两种功能。

Wood在一份声明中说:“基于面部分析得出的结果,我们不可能对任何用例的面部识别准确性做出结论。”

Wood补充说:“该研究没有使用最新版本的Rekognition。而在使用最新版本的该软件和相似数据的情况下并没有发现误报。”

这项研究的两位作者Deborah Raji和Joy Buolamwini表示,她们了解面部识别和面部分析之间的区别。

Raji说:“我们在论文中明确指出,我们选择评估的任务是二元性别分类的面部分析任务。这就意味着,在给定一定数量需要被测的人脸时,模型对它所看到的内容能够理解多少。”

Buolamwini提醒人们,当公司说他们有完全准确的系统时,需要保持一个怀疑态度。

Buolamwini写道:“Wood的公司使用了超过100万张脸作为基准来测试他们的面部识别能力,并且表现良好。虽然他们在这一基准上的表现似乎值得称赞,但我们不知道这一基准的详细数据或表型(皮肤类型)组成。没有这些信息,我们就无法评估种族、性别、肤色或其他类型的误差。”

“滥用”低准确率的人脸识别,后果不堪设想

尽管公民自由组织、国会议员和亚马逊自己的员工都提出对隐私问题的担忧,但亚马逊还是向执法机构提供了Rekognition。本月早些时候,一群股东还呼吁亚马逊停止向政府机构出售其识别技术。

根据MIT的研究,Buolamwini说亚马逊继续向执法机构出售技术是“不负责任的”。她说,面部分析技术可能会被滥用,并且应用到许多场景中,造成大规模的监控。此外,其识别的不准确性可能会导致无辜的人被误认为罪犯。

Raji也有同感。她说:“如果该系统因对特定人群的准确性降低而错误地识别了嫌疑人,这可能会造成严重的危害。”

未经允许不得转载:数智网 » 亚马逊人脸识别错误率较高,误识率高达31%

分享到: