这是什么神奇算法,“看”一眼就能知道对方是不是犯罪嫌疑人?

电子说

1.2w人已加入

描述

“刷脸解锁手机”“刷脸购物”“刷脸验证身份办理银行卡”……我们与生俱来的“脸”除了与颜值形象挂钩,也在逐渐演变成我们身份的唯一识别标识,逐渐深入我们的日常生活,为我们提供了极大的便利。

但当人脸识别遇上现实,也不乏跪地躺枪,惨不忍睹的时候,比如今天我们的主角——来自亚马逊的Rekognition。

Rekognition是亚马逊研发的一款图像分析软件。亚马逊已经将这项技术销售给了美国的几个执法机构,比如说华盛顿县治安官办公室,旨在利用软件的面部识别算法实时自动识别和跟踪犯罪嫌疑人;亚马逊也在争取将能把这项技术卖给美国政府。

人脸识别并不是Rekognition的唯一功能丨Rokognition官网

这是什么神奇算法,“看”一眼就能知道对方是不是犯罪嫌疑人?

Rekognition需要被辨识的脸部照片作为基础数据库,目前基础数据库的建设主要基于亚马逊的云服务AWS。当摄像头捕捉到现实中的人脸或用户上传对比照片后,Rekognition会自动将它们与基础数据库中的照片进行对比;如果相似度足够高,那么Rekognition就认为这个人属于基础数据库中的某个人。在软件中,将这个相似度称作“可信度阈值”,它的默认值为80%。

人脸识别技术 | James Martin/CNET

利用先进科技,让犯罪嫌疑人无处逃遁,想象一下就觉得似乎世界变得更美好了一点。然而,这种想法也遭到了不少人的反对,比如一直和Rekognition唱反调的美国公民自由联盟(American Civil Liberties Union,ACLU,一个非盈利组织)。

8月14日,ACLU对它进行了一项测试,Rekognition的表现却令人大跌眼镜:基于25000人的犯罪嫌疑人基础数据库,ACLU上传了120张立法者的照片让Rekognition一试身手,结果是,Rekognition用误判26名立法者为犯罪嫌疑人的结果,证明了自己身手不佳。

实际上,这并不是Rekognition第一次“犯错误”,早在2018年,它就已经错误地将28名国会议员识别为罪犯,万万没想到,经过1年的努力,它义无反顾地在将政府官员识别为罪犯的路上越走越远……

2018年Rekognition识别错误的28名国会议员 | ACLU官方Twitter

不得不说,这软件给我们提供了一份充满了戏剧性的“答卷”,然而作为承担身份识别重要角色的软件,这样的结果无法不让人对其严谨性和严肃性产生质疑。

旧金山议员丁右立(Phil Ting)提议禁止使用这个软件系统,并且表示这样的错误识别结果将会给人们带来巨大的负面影响,当你被人认为是一个罪犯, “可能会影响你找工作的能力、影响你买房租房的能力。”这远不是一项技术犯了一个可笑的错误那么简单,而是确确实实会有活生生的人们,受到这一错误带来的实际影响。

那么,面对再一次的重大失误,作为软件开发商亚马逊对此作何解释?福布斯这样报道:“当使用面部识别来判断调查中的嫌疑人时,执法部门应该使用推荐的99%的可信度阈值,并且仅将这些预测作为调查的一个要素(而非唯一决定因素)”。

ACLU表示这种解释无法让人信服。在测试中使用的80%的可信度阈值,实际上是软件提供的默认设置。既然99%的可信度阈值才是推荐使用值,为什么亚马逊不将默认可信度阈值设置为99%呢?然而对此,亚马逊并未给出答复。

ACLU成员Matt Cagle做出回应丨ACLU

实际上,这款软件在整个美国进行了推广和试用,除了在识别准确度方面存在问题,在各地的试用中还暴露出了其他一系列问题。比如,由于准确度引发的,在有色人种聚居地识别错误可能造成种族歧视问题,引发警民冲突;在佛罗里达州奥兰多试用期间,还出现网络带宽问题导致软件无法良好运行等问题,很显然,Rekognition并没有为真正能够推广和应用做好准备。另外,人脸识别技术的滥用,是不是也在一定程度上侵犯了公民的隐私和自由?

未来,Rekognition将会走向何方,目前我们无法做出判断。

作为AWS的重要应用软件,除了卖给政府部门,这款支持包括人脸识别在内的图像分析技术也会通过AWS出售给相关大数据公司,亚马逊7月27日发布的2018年财报中显示,云服务第二季度净销售额为61.05亿美元,比上年同期的41.00亿美元增长49%;运营利润为16.42亿美元,上年同期为9.16亿美元。

面临问题重重、形势严峻的推广应用现实,以及巨大利润的诱惑,亚马逊最终将会如何处理此事呢?

科技进步、人工智能给我们的生活带来的方便和快捷不言而喻,但是科技作为工具,能否使用的好最终还是掌握在人的手里,说白了,AI只是个孩子,要学的还很多,而关键在于我们人类“家长”怎么去教育和引导。

打开APP阅读更多精彩内容
声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表电子发烧友网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉

全部0条评论

快来发表一下你的评论吧 !

×
20
完善资料,
赚取积分