亚马逊的人脸识别工具让28名议员与被捕者混淆

在ACLU的测试中,亚马逊的面部识别工具错误地将28名立法者的面孔与大头照中的人以及不成比例地错误识别的有色人种相匹配

民权组织呼吁亚马逊退出面部识别行业,将国会议员的照片与25,000个大头照的数据库进行了比较

在28名身份不明的立法者中,39%是有色人种,包括Reps,John Lewis(D-Ga

),Lacy Clay(D-Mo

)和LuisGutiérrez(D-Ill

客户可以将图像和视频上传到公开的Rekognition工具,以分析人物的面部,对象和文本

ACLU表示它使用了该工具的默认设置,并要求独立专家验证结果和方法

该组织警告执法部门不要使用Amazon Rekognition,理由是存在偏见的可能性

报告称,“不难想象一名警察得到'匹配',表明一个人之前有过隐藏的武器逮捕,在一次遭遇甚至开始之前就让人员偏向”

“有色人种已经受到警察行为的不成比例的伤害,很容易看出Rekognition如何加剧这种情况

”鉴于面部识别可能对抗议者,移民和少数民族构成威胁,ACLU呼吁国会颁布暂停法律使用该技术执法

针对该报道,路易斯和众议员Jimmy Gomez(加利福尼亚州)周四写了一封信,要求与亚马逊首席执行官杰夫贝佐斯会面

“我们对这个工具的有害影响感到震惊 - 如果没有经过适当,一致和严格的校准而不加以控制 - 将会产生色彩的社区;移民;和平集会的抗议者和其他人请求政府纠正不满;或任何其他边缘化群体,“他们写道

米歇尔亚马逊的重新认知信上亚马逊为Rekognition辩护说,该工具已用于防止人口贩运,寻找失踪儿童并防止包裹被盗

该公司还表示,ACLU的测试结果可以通过使用高置信度阈值来改善 - 即给定预测正确的概率

“当使用面部识别进行执法活动时,我们引导客户设定至少95%或更高的门槛,”亚马逊说

然而,ACLU表示亚马逊的默认设置是基于面部用户验证的80%阈值

它还争议说,设定更高的门槛会改变任何事情

“亚马逊似乎已经错过了,或者拒绝承认更广泛的观点:政府手中的面部识别技术已被引发滥用,并引发了重大的民权问题,”ACLU律师Jacob Snow在给HuffPost的一份声明中表示

“将阈值从80%改为95%不会改变这一点

事实上,它可能会加剧它

“面部识别技术中的偏见的揭示并不新鲜

麻省理工学院和斯坦福大学的研究人员在2月份进行的一项研究发现,该技术在分析肤色较深的人和女性时具有较高的错误率

5月,国会黑人核心小组写了一封信给贝索斯,表达了对公司向执法机构出售Rekognition的担忧

核心小组表示,有色人种群体受到更积极的监管,并且担心在没有进一步研究的情况下实施Rekognition可能会加剧有问题的警务做法

信中说:“我们担心像你开发的技术那样部署技术具有很高的滥用倾向

” “对完全合法和受宪法保护的活动进行监督只会进一步削弱公众对执法的信任

”贝索斯和亚马逊没有回复这封信

亚马逊已经将面部识别服务推向了当地的执法部门,包括俄勒冈州和奥兰多市

在几个民权组织反对其使用后,奥兰多在6月结束了与Rekognition的试点计划

警方告诉Floridapolitics.com,它希望维护隐私法并保护人民的权利

更正:此故事此前曾表示,众议员莱西克莱是密西西比州的国会议员

克莱代表密苏里州

本文已经更新了ACLU对HuffPost和Gomez以及刘易斯给Bezos的信的回应

上一篇 :说唱歌手XXXTentacion射击死亡的第三次逮捕
下一篇 特朗普威胁土耳其对被监禁的基督徒牧师的“大制裁”