据微软公司的一篇博客文章称，微软的人脸识别率提升，在识别肤色较暗的人上准确率更高了。对于肤色较深的男性和女性，微软将错误率降低了20倍，单就女性方面来看错误率降低了9倍。 人脸识别率 图1 该公司表示，他们一直在训练数据集更为强大的AI工具，现在已经取得了进展。“如果我们用训练的机器学习系统来模拟在有偏见的社会中做出决策，同时运用该社会所产生的数据，那么这些系统必然会重现它的偏见，”微软高级研究员汉纳瓦拉赫在博客文章中说。 今年2月，麻省理工学院媒体实验室的一份报告称，他们测验了微软，IBM和中国的Megvii的人脸识别率，发现多达35％的深色皮肤女性的性别不能被系统正确识别。 该报告证实了许多人多年来一直怀疑的情况，即面部识别系统可能会受到有限的数据和其他原因如种族主义的偏见的影响。如研究人员可能觉得女性的肤色不会那么深，同时也没有足够的数据让系统学习，就可能导致深色皮肤的女性被错误识别成男性。 早在2015年，谷歌就在一张照片中将一位黑人软件工程师认定为“大猩猩”，谷歌后来也不得不为这个错误道歉。  人脸识别率 图2 尽管今天微软宣告减少人脸识别技术系统中的种族偏见，但如果执法部门掌握了微软的面部识别率提升的工具，那么对于有色人种如何实施可能会引发什么问题，以及这是否会加剧已存在问题。 微软今年1月公开宣告，将与美国移民及海关执法局(ICE)合作，帮助该部门进行人脸以及身份识别，但这一消息一出就引起了包括微软员工在内的民众们的强烈抗议，很多人呼吁微软员工进行抗议或者辞职。 关于微软的人脸识别率，其首席执行官Satya Nadella上周在一份备忘录中澄清说，“微软并未与美国移民及海关执法局达成任何有关于拆散边境家庭的合作。微软对强制将儿童从边境家庭分离的行为深感痛心，同时将极力敦促有关部门改变立场以及国会通过相关法规来改善现状。” |
|Archiver|手机版|家电维修论坛
( 蜀ICP备19011473号-4 川公网安备51102502000164号 )
GMT+8, 2026-1-17 03:27 , Processed in 0.181065 second(s), 17 queries .
Powered by Discuz! X3.5
© 2001-2025 Discuz! Team.
