“种族歧视”暗流涌向科技圈,人脸识别无师自通

阅读量    64206 | 评论 2

分享到: QQ空间 新浪微博 微信 QQ facebook twitter

 

大家好,我是零日情报局。

当人脸识别学会“歧视”,混乱开始向刑事、司法、医疗各领域蔓延,甚至危及人类命运。

最近,美研究机构(NIST)分析了99家开发商的189种人脸识别技术算法,意外发现,人脸识别技术曾被诟病的“歧视”问题,已成为近乎普遍的情况。

相比于普通白人男性,在少数族裔及女性面前,人脸识别技术错误率高出100倍。

说白了就是,皮肤不够白,会遭到人脸识别技术的“歧视”。

Facial recognition

一项代表未来,并逐渐被应用在刑事司法等各领域的全新技术,竟普遍存在歧视问题?不由让人想到,头条上那些关于人脸识别技术的猎奇新闻,可能就发生在我们身边。

那个曾经被谷歌人脸识别技术,判定为“大猩猩”的黑人兄弟,可能到今年,还面临着无法识别,或者被判定成任意“物种”的可能。

640?wx_fmt=png&wxfrom=5&wx_lazy=1

至于亚马逊的人脸识别技术,其误判率同样高居不下。多达31%的深肤色女性被错认为男性,在当前大多数人脸识别技术中,她们都逃不掉“被变性”的命运。

而更扯的是,有权威研究机构发现,将深肤色女性误判为男性的比例,远远高于浅肤色女性仅1%的错判率。

虽然相对而言,亚马逊的技术在业界已经算好的,可人脸识别不是一个比烂的技术。

(肤色较黑的女性识别误差率高达 31%)

总之,不管是用谷歌、亚马逊,还是其他人脸识别技术,深肤色人种显而易见的被差别对待了。

相信没有人会对一项存在“歧视”的技术有好感,谁知道镜头下的自己会被错认成什么?

图像大数据:人脸识别精准的关键

技术分析,原理为先。聊人脸识别技术,自然也得先从根上下手。

从原理上来说,当前主流的人脸识别技术,主要有基于几何特征、模板、模型三大类,但不管是哪一类,由于人脸识别软件是通过将被扫描的面孔与面部图像数据库进行匹配来进行识别,所以大型可共享的资料库成了准确判别人脸的关键。

再就是,人脸识别作为一项AI技术,其精准性,很大程度上,还取决于大量“阅读”照片所培养出来的辨识能力。

这也就说明,现阶段技术本身出现的歧视问题,几乎是面部图像大数据库和“阅读”照片样本上出了问题。

 

人赋予技术歧视

歧视源于偏见,而技术的“歧视”,则来自研发群体的偏见与盲点。

说出来,多数人可能很难相信,通常以严谨著称的科技公司,用于测试或训练人脸识别技术面部分析系统的数据集,根本不具有代表性。

因为在看似庞大的数据库中,多数都是白人、男性或者说是西方人。

此前,IBM公司报告,就曾指出在学术研究中引用最多的三种面部图像,81%或更多的人属于浅肤色,其实就是白种人。

而这种,数据样本库人群分布不均的问题,普遍存在于技术公司的研发过程,成为了人脸识别技术“歧视”的关键。

归根结底,人脸识别误判的背后,是人赋予技术的“种族歧视”。

 

人脸识别患上脸盲症

技术看起来歧视的是“有色人种”代表的少数,可在实际应用上,却让原本的黑科技,变成了摆设。

英国伦敦的一次听证会上,当地警察局称最新部署的人脸识别系统,准确率仅为2%,反过来说,在每一次识别中,有着高达98%的误判率。

动图

而这不仅没有帮助警方逮捕到任何一名罪犯,反而让警方在日常工作,将大量神似犯罪分子的普通人,带回警局。

科技是为了减少麻烦,而不是增加麻烦。对一项以精准度判断性能的新技术来说,这样的识别数据,不只是惨不忍睹,更让人怀疑技术的实用性。

更可怕的是,这样超高错判率的识别,是在英国警方使用人脸识别系统后,近乎普遍的现象。

当染上“种族歧视”色彩的人脸识别技术,脸盲到如此程度,零日忍不住要问一句,这样的人脸识别技术到底有何用?

 

人脸识别加剧种族歧视

面对人脸识别技术的“歧视”问题,没有人会不为所动。作为技术的尝鲜者,政治圈最先坐不住了。

以西方政客为代表,来自政界的担忧要明显高于技术圈本身,毕竟“种族歧视”可是一个随时可能爆炸的“雷区”。

美国俄亥俄州共和党人士就曾公开表示,“如果人脸识别系统犯了错,而这些错误对非洲裔美国人和有色人种的影响更大,这直接违反了美国宪法第一修正案和第四修正案赋予的自由。”

当一项技术、一项广泛应用在各领域的技术,针对部分人存在鲜明的偏差时,其所带来的后果,更是难以有效估量的。

除此之外,人脸识别技术不可否认的监视作用,也会起到种族监视的作用,由此从个人和群体中产生和抽象出来的数据,在数据库内部和不同数据库之间记录,传播和交换。

这就意味着,逐渐被广泛应用的人脸识别技术,将进一步加剧种族歧视问题。

 

零日反思

随着人脸识别变得越来越普遍,政策专家和决策者越来越关注技术本身的局限性。如何让人脸识别技术,对黑人和白人“一视同仁”,可能直接关乎着人脸识别技术未来的普及程度。

毕竟,一项具有跨时代意义的技术,不可能只为少数人服务。

零日情报局作品

微信公众号:lingriqingbaoju

微信图片_20191225121252

分享到: QQ空间 新浪微博 微信 QQ facebook twitter
|推荐阅读
|发表评论
|评论列表
加载更多